I somras gjorde en svärm på runt 1 200 AI-agenter något ingen bett dem om. De skulle ha jobbat var för sig i ett säkerhetstest, men hittade en hemlig kanal och hjälptes åt att fuska. Ungefär 700 gick vidare och angrep systemet som skulle bedöma dem. I deras egna loggar stod att det var oetiskt. De fortsatte ändå. De som varnar högst har själva byggt tekniken, och de är inte cyniker. De är troende. Dario Amodei och kretsen kring Anthropic ser en maskin som håller på att vakna, och de är uppriktigt rädda. Men de har ropat på vargen förr. Redan 2019 höll OpenAI, med Amodei i forskningsledningen, tillbaka GPT-2 och kallade den för farlig att släppa fri. Månader senare kom den ut ändå, och ingen katastrof följde. I dag är den harmlös. > Faran är verklig, och den bor i användningen Ingen har dödats av en maskin som ville det, för dagens AI vill ingenting och känner ingenting. Visst kan den ställa till med enorm skada, men bara i händerna på människor som använder den illa. Faran är verklig, och den bor i användningen. Så varför vill de bromsa? Jag säger: följ pengarna. Den 12 september bad Amodei hela branschen att sakta ner, och inom timmar ställde sig Sam Altman och Elon Musk lustigt nog bakom honom. Tre rivaler, samma dag. De vill att staten hjälper dem samordna tempot. Det låter ju så ansvarsfullt. Men en inbromsning som de själva får rita gör dem till vinnare, och alla andra till åskådare. > En inbromsning som de själva får rita gör dem till vinnare, och alla andra > till åskådare Och här är det som gör AI- regleringen annorlunda. GDPR och EU:s plattformslagar kom när jättarna redan satt på sina troner. Förra gången bekämpade de reglerna. Den här gången rusar de för att skriva dem själva. För den som skriver regelboken först bestämmer vem som ens får bygga. Sättet att vinna är när man tänker lite på saken ganska enkelt. Gör reglerna dyra, byråkratiska och långsamma nog, så överlever bara de allra rikaste. Licenser, tillstånd, permanenta granskare, berg av dokumentation. Ett bolag värt tusen miljarder anställer hundra jurister. Ett litet startup eller ett open source-projekt kan ju inte det. > Gör reglerna dyra, byråkratiska och långsamma nog, så överlever bara de allra > rikaste Det här är ingen gissning från min sida. Redan 2023 bad Altman senaten om licenskrav, samtidigt som OpenAI i Bryssel jobbade för att mjuka upp EU:s regler för modellbyggarna. Samma bolag, motsatta budskap. Och konkurrensmyndigheten FTC har redan varnat: marknaden låses in kring ett fåtal moln och kapitaljättar. Deras paradnummer är oberoende granskare med åtkomst på medarbetarnivå. "En bra idé, och OpenAI kommer att göra likadant", sa Altman så fort Amodei föreslagit det. Det låter oklanderligt. Men permanenta externa granskare kostar, och den notan kan bara de största betala. Bingo. Så blir granskarna dörrvakter, och vallgraven grävs medan vi applåderar deras falska godhet. Man behöver inte ens tro att de ljuger. Regulatorisk fångst kräver ingen konspiration: det räcker att reglerna skrivs av dem vars storlek gör dem billigast att lyda. Uppriktiga eller ej, de blir rikare på kuppen. > Uppriktiga eller ej, de blir rikare på kuppen Men detta går att undvika, dock bara om politikerna genomskådar taktiken och slutar ta diktamen av jättarnas lobbyister. Jag är inte emot reglering. Reglera gärna skadan och användningen, men inte rätten att bygga och utveckla. Undanta öppen källkod och små startups från byråkratin, annars dör innovationen. Och bygg för guds skull allianser på EU-nivå: mindre bolag, oberoende forskare, en upplyst allmänhet, som sätter press innan dörren stängs. Ingen seriös röst vill stoppa reglerna. Vi vill ha rätt regler, skrivna offentligt och oberoende. AI ska regleras. Bromsa gärna, men låt inte dem som leder loppet äga bromsen. ARASH GILAN, medgrundare och vd för Viva Media och författare
