Det går som bekant fort i utvecklingen av AI. Det vi för bara ett par år sedan såg som en utopi är i vissa fall redan vardag idag. Men det kan ju gå för fort. Det menar en av de allra största AI-jättarna, Anthropic som värderas till flera tusen miljarder. I en bloggpost på bolagets hemsida uppmanar nu bolaget till en tillfällig paus i utvecklingen. “Vi tror att det vore bra för världen att ha möjligheten att sakta ner eller tillfälligt pausa utvecklingen av spets-AI för att ge samhällstrukturer och säkerhetsforskning en chans att hålla jämna steg med teknikens framsteg”, står det i inlägget som skrivits av Marina Favaro och Jack Clark. De föreslår ett globalt avtal kring hur en eventuell inbromsning skulle kunna gå till, och en mekanism för att verifiera att konkurrenterna respekterar det. Bakgrunden till varningen är att intern forskning på Anthropic visar att AI-systemen närmar sig den punkten när den kommer att kunna förbättra sig själv. Att det bara är för att de är så snälla och goda och vill alla väl på Anthropic och därför vill bromsa utvecklingen något är det inte alla som köper. Istället menar de att det är ett tydligt tecken på att Anthropic håller på att tappa fart i AI-racet och därför inte vill att konkurrenterna ska springa iväg.
