Brottslingar, statligt finansierade grupper, spionprogramleverantörer och propagandister har försökt använda AI-bolaget Anthropics modeller för att konstruera missiler och bomber, skapa dödliga patogener och övervaka dissidenter. Det skriver The Guardian, som i sin tur hänvisar till Anthropics rapport om hotinformation som publicerades på torsdagen. I den 154 sidor långa rapporten går bolaget igenom fem fallstudier där forskare använt AI:n i biologisk forskning och kringgått säkerhetsspärrar som ska stoppa användare från "icke-stödda regioner". Anthropic uppger att kontona stängts av, men berättar varken vilka forskningsinstitutioner eller länder det handlar om. Bland de övriga exemplen finns rysk spionageverksamhet, ett Kina-baserat övervakningsprogram riktat mot uigurer i Syrien och användning av AI-modellen Claude i Jemen, Kina och Ryssland för att utveckla programvara till skjutvapen, missiler och beväpnade drönare. Bolaget betonar samtidigt att urvalet är extremt: "De fall vi redogör för här är inte typiska exempel på missbruk, utan snarare exempel på de mest anmärkningsvärda och nyskapande hotaktiviteterna som vi hittills har identifierat", skrev Anthropic. Rapporten kommer bara två dagar efter att den tidigare anställde Jacob Coxon lämnade Anthropic med varningen att bolaget inte agerar ansvarsfullt. Enligt honom är Anthropic och Openai på väg rakt mot en självförbättrande superintelligens som kan leda till mänsklighetens utrotning senast 2030. Alla köper inte den domedagsbilden. Heidy Khlaaf menar att de konkreta hoten är mer akuta än en framtida AI-apokalyps: "AI-accelerationism och AI-doomerism är två sidor av samma mynt: båda förstärker uppfattningen att ett AGI-superväsen kommer att uppstå", sade Heidy Khlaaf, chefsforskare inom AI på AI Now Institute. Den här texten är skriven med hjälp av AI-verktyget Ahody. Är du beslutsfattare på ett SaaS-bolag, AI-bolag eller vill växa din affär med AI? Den 22 oktober samlas AI- och SaaS-branschens främsta beslutsfattare i ett och samma rum på AI x SaaS Summit. – begränsat antal platser.
