Kung Charles har samlat tunga namn från AI-branschen på Dumfries House i Skottland – och passade på att varna för de "existentiella faror" som uppstår om tekniken hamnar i fel händer. Det skriver BBC. Toppmötet handlade om hur tekniken kan användas till samhällets bästa, och om det går att ta fram en gemensam uppsättning principer för hur AI ska användas framöver. På plats fanns bland andra Kanishka Narayan, Storbritanniens AI-minister, påvens rådgivare och representanter för AI-jättarna Nvidia, OpenAI och Anthropic. Kungen var inte nådig i sin beskrivning av läget: "De som har skapat dessa teknologier varnar nu i allt högre grad för att AI riskerar att utveckla mörkare förmågor – kanske till och med att ta liv", sade Kung Charles, Storbritanniens kung. Han menade att det finns en brådska i att beakta farorna med att tekniken hamnar i fel händer och används på potentiellt katastrofala sätt. Uppdraget för branschen är enligt honom större än att bara bygga vidare: "Den uppgift ni står inför handlar inte bara om att driva tekniken framåt, utan om att säkerställa att den förblir helt och hållet i mänsklighetens, samhällets och naturens tjänst", sade Charles. Mötet hålls mitt i en debattstorm. Sedan augusti har diskussionen om AI:s makt dominerat blogginlägg och sociala medier, bland annat efter att Anthropic-forskaren Jacob Coxon i september fick sitt avskedsinlägg att gå viralt, där han oroade sig för att AI kan utplåna mänskligheten. Kollegan Evan Hubinger skrev senare att risken att mänskligheten utrotas av AI enligt honom är större än tio procent. OpenAI:s Sam Altman har sagt att oron är befogad, men att människor bör lita på att AI-bolagen håller tekniken säker. Kritiker menar tvärtom att branschen inte kan reglera sig själv – bland dem senator Bernie Sanders och Steve Bannon, tidigare rådgivare till USA:s president Donald Trump. Trump själv har kallat farhågorna för en "bluff".
