Nvidias vd Jensen Huang är känd för att, till skillnad från exempelvis Anthropics vd Dario Amodei, förorda en fortsatt snabb AI-utveckling – utan politisk reglering. Under sitt blixtbesök i Stockholm upprepar han sitt mantra. ”Om produkten inte är säker, skeppa den inte”, säger han, rapporterar Breakits systertidning Di. Som vd för världens främsta leverantör av hårdvara för AI-infrastruktur tar han ofta sina exempel från den fysiska världen. Och på det viset talar han delvis förbi Anthropics vd, vars mörka varningar handlar om den skada AI-agenter kan åstadkomma om de övertolkar sitt uppdrag, rundar sina egna förbud och, exempelvis, bryter sig in i det globala banksystemet. Men skillnaden i perspektiv är mer komplex än så. Vid sitt Stockholmbesök återkom Jensen Huang flera gånger till ett resonemang om att ”alla bolag är på väg att bli AI-bolag”, precis som alla bolag i dag nyttjar internet. HUANG: BOLAGENS EGET ANSVAR Han menar att politiker bör fortsätta reglera branscher som flyg och läkemedel, och då även hur de använder AI, men att det är AI-bolagens uppgift att själva ansvara för säkerheten i sina produkter och tjänster. Det går snabbare då, menar han, och resultatet blir bättre. Som exempel nämner han hur AI-teknik, för några år sedan, hallucinerade och hittade på för mycket. ”AI-bolagen var tvungna att utveckla tekniken snabbt för att kunna förankra AI i grundläggande sanningar”, säger han. På en fråga från Dagens industri om var Nvidias ansvar för AI-säkerhet börjar och slutar svarar han: ”Vi bygger AI-teknik, inklusive teknik för AI-säkerhet.” Nvidia har exempelvis tagit fram öppna AI-modeller som gör det möjligt för företag att utveckla egna skydd mot cyberhot. Som exempel nämner han Open Shell som ett av flera verktyg i Nvidias låda. Den är, enligt Jensen Huang, utvecklad för att begränsa AI-system så att de inte utför otillåtna handlingar eller får tillgång till data och internettjänster de saknar behörighet till. Han uppger att Open Shell redan har tagits i bruk av några hundra företag världen. Och han beskriver tekniken som en kommande standard för säkerhet i agentbaserade AI-system. VARNAR FÖR ANTHROPIC OCH OPEN AI När Di frågar om öppna AI-system är säkrare än slutna system, som de Anthropic och Open AI bygger sina tjänster på, är Jensen Huang tydlig. ”Öppen källkod är grundläggande för säkerhet eftersom den är transparent”, säger han. Det gör, enligt honom, att de bästa åtgärderna snabbare byggs in i systemen. I denna bemärkelse är Wallenbergsfärens superdator ett exempel på hur han tycker att europeiska företag bör arbeta, i alla fall vad gäller affärskritik data. Med en egen AI-infrastruktur, och öppna AI-system som laddas ner lokalt, kan de anpassa systemen till sina egna behov, menar han. ”Öppen källkod är anledningen till att dagens it-system och alla dessa banker och företag kan verka runt om i världen på ett säkert och tryggt sätt. Utan öppen källkod skulle det vara väldigt svårt att göra det”, säger han.
