Max Tegmark har länge varit techvärldens främsta domedagsprofet – eller samvete, beroende på vem man frågar. Men under det senaste året har hans hårda kritik mot artificiell generell intelligens (AI som är lika smart och mångsidig som människor) blivit ännu skarpare. Han menar förvisso att mänskligheten kan dra nytta av specialiserad AI som kan bota cancer eller lösa komplexa kriser, men att vi alltså inte bör bygga generell intelligens som riskerar att ta över länders styre eller göra människan överflödig. I en kartläggning av Wall Street Journal beskrivs hur Max Tegmark i september förra året intog Vatikanen för att försöka övertyga påven och ett samfund av akademiker att ställa sig bakom ett globalt förbud mot superintelligens. Strategin tycks ha fungerat – Tegmarks budskap letade sig hela vägen in i påvens eget varningsrop om AI-säkerhet, enligt WSJ. Men det är inte bara i de heliga salarna som Tegmark vinner mark. Hans organisation, Future of Life Institute (FLI), har lyckats samla över 130 000 underskrifter för ett nytt upprop, från en minst sagt brokig skara. Här trängs bland andra techpionjären Geoffrey Hinton med Trump-strategen Steve Bannon och kungligheter som prins Harry och Meghan Markle. Enligt Wall Street Journal markerar detta ett skifte där oron för AI inte längre är en nischad fråga för kodare och filosofer, utan en bred folkrörelse driven av rädsla för förlorade jobb och existentiella risker. För att driva hem sin poäng har Tegmark och FLI finansierat en gerillakampanj i San Francisco under namnet ”Replacement AI”. På satiriska billboards lovar de att automatisera bort alla jobb: ”Inga fler måndagar, chefer eller lönebesked! Hoppas du har sparat pengar (LOL)”, lyder budskapet som ska provocera Silicon Valley-eliten. Samtidigt hårdnar konflikten med de faktiska AI-jättarna. Tegmark har hamnat i skottgluggen i den rättsliga striden mellan Elon Musk och OpenAI, där han nyligen tvingades svara på en stämning gällande organisationens kopplingar till Musk. Trots att han tidigare tagit emot miljonbelopp från Musk, betonar Tegmark att FLI nu står på egna ben, stärkta av en enorm krigskassa i kryptovaluta från Ethereum-grundaren Vitalik Buterin. Frågan som nu splittrar AI-säkerhetsrörelsen är om man bör försöka bygga superintelligens på ett säkert sätt, eller (som Tegmark vill) helt enkelt låta bli att bygga något som är smartare än människor. LÄS MER: 800 nobelpristagare, kändisar och experter kräver förbud mot superintelligens
