OpenAI:s chefsforskare Jakub Pachocki manar till "extrem försiktighet" i ett blogginlägg med titeln An Alien Mind, där han varnar för AI:s okontrollerade utveckling. Det skriver BBC. Pachocki vill se lagstadgade eller internationellt fastställda minimikrav på säkerhet, som ska kunna kontrolleras av ett "nätverk av oberoende revisorer" eller "myndigheter". Kraven skulle AI-labben behöva klara innan de får skala upp eller lansera avancerade modeller. Han hoppas också att frivilliga pauser i utvecklingen blir vanliga tills gemensamma säkerhetsriktlinjer finns på plats. Inlägget kommer kort efter att Chatgpt-skaparen släppte sin senaste modell, GPT-6 Astra – enligt bolaget den mest kraftfulla produkten någonsin och ett bevis på att AGI uppnåtts. Så här skriver Pachocki i inlägget: "Jag är orolig för att ingen är förberedd på konsekvenserna av en fortsatt snabb utveckling av maskinintelligens." Alla är dock inte imponerade. Kritiker menar att OpenAI hellre bygger AI-agenter än konkreta skyddsåtgärder. "Sådana svar på den växande oron över de problem som OpenAI:s modeller orsakar när det gäller cybersäkerhet, förlorade arbetstillfällen, misstag, fel och bedrägerier är helt enkelt inte tillräckligt bra", säger Gina Neff, professor och chef för Minderoo Centre for Technology and Democracy på Cambridge universitet. Den här artikeln är skriven med hjälp av AI-verktyget Ahody.
