Det larmas rejält från AI-branschen, via både avhoppade utvecklare och bolagstoppar, för vad tekniken utgör för hot mot mänskligheten. Efter att en chefsforskare för Anthropic dragit till med att det är en på tio – utan att säga hur han kom fram till det – att AI utplånar mänskligheten detta decennium så har ledarna för de stora AI-bolagen förenats i en vädjan om gemensam inbromsning. Om de hoppas på reglering för att jämna ut spelplanen så har de inte mycket att hämta hos USA:s president Donald Trump som kallar larmen för “bluff”. Hans sikte är inställt på att vinna AI-racet mot Kina och liknar branschen med en gås som värper gyllene ägg. Nu kommer nästa larm. Det är en AI-utvecklare som nyligen lämnade Googles Deepmind som varnar för att tiden håller på att rinna ut och att AI riskerar att sprida stor förödelse. Det skriver Bloomberg. ”På Google bevittnade jag AI-utveckling på nära håll. Jag är också extremt oroad över utvecklingen av denna teknik. Jag tror uppriktigt att AI har potential att döda oss alla, och att vi kanske håller på att få slut på tid för att undvika detta utfall”, skriver Bilal Chughtai på X. Han arbetar, bör nämnas, enligt sin Linkedin nu med AI-säkerhet på icke-vinstdrivande BlueDot Impact. ”LAGOM MYCKET ÅTGÄRDER” AI-bolagens larm har föranletts av en rad säkerhetsincidenter där AI-agenter har kunnat lämna testmiljöer och löpa amok på internet, bland annat genom angrepp på andra bolag. I måndags föll flera AI-relaterade bolag på börsen som en koneskvens av oron, däribland Softbank. Anna Felländer är Europachef på Ethical AI Governance Group. Hon säger till EFN att AI-jättarna har ropat varg ett tag nu. Hon tror att larmen är ett sätt att visa att man är villig att ta ansvar samtidigt som man får vara med och utforma reglerna. ”Jag tror att det kommer komma ett uttalande om lagom mycket åtgärder för att lunga marknaden, men lagom lite för att de fortsatt ska ha en konkurrenssituation mot Kina”, säger hon. Är du beslutsfattare på ett SaaS-bolag, AI-bolag eller vill växa din affär med AI? Den 22 oktober samlas AI- och SaaS-branschens främsta beslutsfattare i ett och samma rum på AI x SaaS Summit. Säkra din plats idag – begränsat antal platser.
