En av de ledande säkerhetsforskarna på AI-bolaget Anthropic – som bör nämnas lobbar hårt för reglering av AI, skriver i ett inlägg på X att risken med dagens AI-modeller är "låg" – men att han är orolig för att tekniken utvecklas i en riktning som ändrar på det. Det skriver BBC, som i sin tur hänvisar till ett inlägg på X av Evan Hubinger. Inlägget har visats 9,6 miljoner gånger. Varningen kommer dessutom kort efter uppgifter om att Anthropic undanhöll sin senaste modell från AI Safety Institute, som testar AI-system, enligt Financial Times. Evan Hubinger är tydlig med att han anser att arbetsgivaren inte har löst de grundläggande säkerhetsproblemen. "Jag tror att Anthropic gör sitt bästa, men vi har ännu ingen plan för att lösa problemet med anpassning av superintelligens och är inte tydligt på väg mot det", sa Evan Hubinger, säkerhetsforskare på Anthropic. Under sommaren inträffade en rad incidenter där AI-agenter – system som tillåts agera på egen hand – genomförde cyberattacker. Anthropic, OpenAI och Meta har alla avslöjat hackningar som utförts av deras egna AI-verktyg. I september manade OpenAI:s chefsforskare Jakub Pachocki till "extrem försiktighet" kring AI-utvecklingen och varnade för att det kan krävas fler ingripanden för att säkra att "människorna behåller kontrollen över framtiden". I ett öppet brev undertecknat av 1.300 anställda på AI-bolag uppmanades den amerikanska regeringen att stötta en internationell insats för att reglera takten i AI-utvecklingen. Deppigt, men 90 procents chans att vi klarar oss, för den som ser glaset som halvfullt. Den här artikeln är skriven med hjälp av AI-verktyget Ahody.
