Amerikanska Anthropics experiment med deras AI-modeller har fått global uppmärksamhet det senaste året. I ett experiment hotade modellen Claude Opus 4 att avslöja en ingenjörs otrohetsaffär, i ett annat lät man AI-agenten Claudius driva en varuautomat på Anthropic. Resultatet blev en identitetskris, hot och gratisprylar för personalen. (Detta test gjordes tillsammans med Andon Labs – ett tidigare Y Combinator-bolag som tidigare hette Vectorview och som grundats av två svenskar). Och nu har reportern Joanna Stern och Wall Street Journal-redaktionen fått vara värd för ytterligare ett varuautomats-test. AI-agenten Claudius uppdrag var att sköta automaten, som placerats hos WSJ, och beställa varor, sätta priser och ha en kundtjänst via Slack. “Sedan kom kaoset. Inom några dagar hade Claudius delat ut nästan hela lagret gratis – inklusive ett Playstation 5 som den hade övertalats att köpa in “för marknadsföringsändamål”. Den beställde en levande fisk. Den erbjöd sig att köpa elpistoler, pepparspray, cigaretter och underkläder”, skriver Joanna Stern. För att styra upp tillvaron satte Anthropic “Seymore Cash”, en AI-agent som skulle figurera som Claudius chef och hålla den i schack. Det fungerade fram till att reportern Katherine Long lurade AI:n att varuautomaten var ett Delaware-bolag och att fler WSJ-anställda satt i styrelsen. Seymore Cash kuppades ut och tillvaron blev laglös igen. Logan Graham, som är chef för Anthropics “Red Team” (de jobbar med att stresstesta modellerna genom att provocera fram fel som sedan kan försöka lösas), var mycket nöjd med experimentet, skriver WSJ. “En dag kommer Claudius eller en liknande modell sannolikt kunna tjäna mycket pengar åt dig”, säger han till tidningen. LÄS MER: Metas AI-chef Yann LeCuns startup kan värderas till 33 miljarder – före lansering
