Om du är född någon gång efter 1980 har du vuxit upp i en digital värld. De som är födda in i denna tid landar direkt i den mest teknologiskt avancerade och socialt utvecklande eran i mänsklighetens historia. Oavsett vilken bakgrund, ålder, yrke och intressen vi har, är det som sker just nu svåröverskådligt. De äldre generationerna förstår kanske inte hur mycket världen har förändrats, medan de yngre inte förstår hur nytt allt faktiskt är. De tar det mesta för givet. Vi lever numera på en planet där mjukvara äter upp världen, bit för bit.
Faktum är att alla bolag mer eller mindre mot sin vilja tvingas bli mer av ett mjukvarubolag. Även om man försöker undvika det internt kan man vara säker på att kunderna är i den digitala världen, och om kunderna är där utan att vi är det kommer konkurrenterna flockas som gamar runt ett dött kadaver. Och nu är AI inte längre en hajp, en dröm eller illusion, utan något väldigt konkret som alla behöver förhålla sig till.
Hur ser den nya världen ut? En värld där data, mjukvara, röststyrning och snart även AI, artificiell intelligens, styr stora delar av våra liv. Kanske är det början på slutet? Kanske har vi öppnat en dörr till en värld där robotar tar över och vi, likt aporna, till slut blir djur i bur på ett zoo för robotar? Eller så ser vi början på en ny tid i mänsklighetens historia, där vi får möjlighet att designa en perfekt värld där vi får ut det bästa i att vara en människa? Vägval är alltid ett hot eller möjlighet, beroende på det perspektiv man väljer. I denna artikel lägger jag medvetet en övervikt kring de utmaningar och dilemman som finns kring AI för att bli mer hoppfull i fjärde och sista delen av denna serie – så håll till godo.
Exempel på hur AI kan komma att passera människan på alla områden.
Picasso menade, radikalt för sin tid, att konst inte handlar om att avbilda verkligheten. Så frågan är: vad är verklighet och vad är mänskliga intryck? För det du ser är inte objektivt, utan istället din subjektiva definition av det vi kallar verkligheten. Alla människor ser saker och ting i olika ljus. Vi söker efter verkligheten, men frågan är om verkligheten existerar i objektiv mening.
Men den verklighet som AI konstruerar är inte alltid så vacker som den bör vara. AI medför en rad olika dilemman som jag i denna serie vill koka ner i fem olika områden som vi kort ska gå igenom. Förståelsen av detta hjälper oss att identifiera och hantera eventuella problem som kan uppstå när teknologin används. Att diskutera de etiska problemen kring AI kan även hjälpa oss att utveckla metoder för att minimera dessa farhågor och säkerställa att AI används på ett ansvarsfullt sätt framgent. Dessutom kan det hjälpa oss att förstå hur AI kan påverka samhället och ekonomin på lång sikt.
- Ekonomiska och arbetsmarknadsrelaterade frågor
Hur hanterar vi jobbförluster på arbetsmarknaden och förändringar i arbetsförhållandena?
- Etiska och moraliska frågor
Vad är utmaningen med automatiserade beslut och ansvar, och med AI i förhållande till övervakning och den privata sfären?
- Sociala och demokratiska frågor
Kan AI hota social jämlikhet, öka klasskillnader och påverka demokratin negativt?
- Försvars- och säkerhetsrelaterade frågor
Hur kommer användningen av AI i militära ändamål se ut, och vad är risken för automatiserade krig?
- Existentiella och undergångsrelaterade frågor
Vad gör vi åt risken och rädslan för undergång och utrotandet av mänskligheten genom AI?
Ekonomiska och arbetsmarknadsrelaterade frågor
En viktig insikt kring digitalisering är hur den demokratiserar användandet av produkter, men samtidigt centraliserar produktionen. Detta är ett uttryck som man kan förstå i och med den industriella revolutionen, men är än mer relevant i vår digitala värld där AI nu har blivit centrum för utvecklingen. Teknik var länge en klassfråga, något bara de rika hade tillgång till, men med massproduktionen kom tekniken de många av oss till del. Baksidan av detta är att massproduktion alltid skapar en centralisering. Marx tog upp farorna med centralisering av pengar, vilket redan har skett, men ännu värre är kanske centraliseringen av data och vital information om oss i händerna på ett antal få aktörer, och i förlängningen kanske datorn själv?
Den nya dimension som vi nu behöver relatera till är att AI är en maskin som inte bara kan agera – utan även tänka. Blandar du AI med robotik finns alltså en enorm risk att väldigt många arbeten kan automatiseras, vilket i sin tur kan leda till massarbetslöshet. Ta bara fordonsindustrin, en sektor som sysselsätter 250.000 anställda enbart i Sverige och över 10 miljoner i EU. Att dessa yrken inom 10 år kan vara helt automatiserade är ingen högoddsare. Och det är bara en sektor av många. Medlen för att motverka detta är att sakta ner det hela genom reglering, förbud eller helt tänka om kring vad jobb är genom att till exempel införa medborgarlön.
Historien har visat att ny teknik tar bort jobb men även gör så att nya tillkommer. I fallet med AI kan man dock argumentera annorlunda, nämligen att skalan av AI och robotik kombinerat kommer vara så omvälvande för arbetsmarknaden att det leder till massarbetslöshet. Motmedlet tror jag kommer vara att dryga ut processen från politiskt håll genom diverse regleringar. Krasst så tror jag att diverse utredningar och regelverk kommer att tas fram från politiskt håll så att automationen inte sker för snabbt.
Etiska och moraliska frågor
En aspekt vi inte diskuterar så ofta gällande teknikutveckling är hur tekniken kommer oss allt närmare och rent fysiskt, kanske även emotionellt, blir en del av oss. Evolutionen har gått från gigantiska datorer till desktop, laptop, mobil, smarta klockor och diverse bärbara uppkopplade prylar. Nu finns även möjligheten till teknologi i våra kroppar i form av chip under huden eller Elons Musk projekt Neuralink där datorn blir en del av vår hjärna. Vad är människa och vad är dator, kan en del fråga sig till slut?
Det finns många andra etiska aspekter kring utveckling av AI. Ett exempel gäller ansvarsfrågan vid skador som en AI orsakar. Vid en olycka – vem bär då egentligen ansvaret? Vi har även sett exempel på hur AI kan vara ganska diskriminerande i beslutsfattande frågor baserat på ras, kön eller ålder. Det är viktigt att förstå att AI bygger på människogenererad data som kan reflektera historiska fördomar, och som sedan lätt kan förstärkas. Det många idag får som svar i ChatGPT kan lätt tas för sanning då det är datadrivet, men informationen kan vara långt ifrån sanningen.
En djupare etisk reflektion kretsar kring om vi lyckas skapa en form av medvetande hos AI – har den då en själ och bör de få rättigheter? Kan AI:n då ställas till svars, och kommer vi en dag se AI-domstolar? I nästa fas av mänsklighetens kapitel kommer människor och robotar att leva i symbios, förhoppningsvis också i harmoni. Fokus hamnar lätt på hur robotar moraliskt ska förhålla sig till människan och mänskligheten, men faktum är att en minst lika stor fråga är hur vi människor kommer att förhålla oss till robotar i vår närhet.
Det är inte svårt att dra slutsatsen att vi under de närmsta hundra åren kommer att se samma utveckling kring robotar och AI som den i vår relation till djur, i synnerhet relationen med hundar och katter. Om vi backar bandet några år tillbaka ansåg människan sig vara djuren övermäktig på alla plan. Det var inga konstigheter att döda djur. Vi var ju trots allt människor, och de endast djur.
Men hundar och katter domesticerades och blev till sällskapsdjur i en stor del av världen, även om man fortfarande äter dem i vissa länder. Kultur och tradition är olika. För den som ser djuren som en förlängning av familjen, blir känslorna instinktivt starka när man ser djur vanvårdas eller tillredas som maträtt. ”Det är inte rätt att äta eller plåga någon som är en del av min familj och därför blir jag upprörd.” Talesättet att hunden är människans bästa vän är fysiskt verklig för många ensamma likväl som för familjer. Djur av alla slag anses ha känslor och bör därför behandlas med respekt och värdighet. Samma utveckling tror jag kommer att ske med vårt förhållande till robotar, den dag roboten flyttar in hos oss så kommer känslor att skapas.
Kanske har du själv besökt någon som har en robotgräsklippare? Märk väl hur en primitiv relation skapas mellan ägaren och roboten. Hur väl den omhändertas, hur man tilldelar den ett namn och kanske till och med ett litet hopsnickrat hus som den kan köra in i för att skydda sig mot väder och vind. För inte ska väl den stackars lilla roboten behöva känna sig frusen, rädd och ensam? Det är egentligen en helt häpnadsväckande tanke - kan vi på sikt behöva tillskriva rättigheter för robotar? Frågan kan kännas som galenskap men för egen del ser jag det inte som en omöjlighet.
Sociala och demokratiska frågor
Där etiska dilemman handlar om moraliska principer kring teknikutveckling, handlar sociala dilemman kring AI mer om större samhälleliga konsekvenser. Farhågorna inom detta område kan handla om ansvarsfrågor, diskriminering, integritet, konsekvenser av massarbetslöshet eller om hur AI på sikt kan bli ett demokratiskt dilemma på grund av dess sociala påverkan.
Tekniken, som skulle vara ett förlovat land och en modern samlingsplats där olika åsikter kunde utbytas, har snarare blivit en mörk bakgård som man helst håller sig undan från. Kopplingen mellan demokrati och teknik är långt mer komplex än vad många anade. Det som skulle sammanföra oss har snarare dragit isär oss samtidigt som polariseringen växer, och AI kan göra det hela värre.
Tillgången till AI kan även skapa en större klasskillnad mellan olika samhällsklasser, vilket kan förvärra redan existerande klyftor genom att AI primärt används av välutbildade. Vi har även dilemmat kring centralisering av makt och integritetsfrågor. Vem kodar AI:n och vilket syfte har koden? AI-system som används för beslutsfattande kan hota transparens och rättssäkerhet i demokratiska processer och samhällsinstitutioner. Vidare kan AI-system som används för övervakning och kontroll av samhällen hota mänskliga rättigheter som till exempel yttrandefrihet och privatliv.
Det är lätt att se en dystopisk bild där AI:n blir en moralpolis som övervakar samhället och fattar beslut som den anser vara det bästa för människor. Men en större fråga i närtid är hur mycket vi egentligen kan lita på AI:n? Här måste vi gå väldigt varsamt fram då det är lätt att tro att data inte kan göra fel. Men det ser vi redan nu bevis på genom till exempel hur många fel ChatGPT har. Dels ger den oss felaktiga svar på frågor, ibland med stor säkerhet, och dels behöver man även ha i åtanke hur lätt den kan manipuleras. Här behöver vi som medborgare en mycket större förståelse för hur tekniken funkar och hur den kan manipuleras, och även tänka på att vara källkritiska som aldrig förr, vilket leder oss till min nästa punkt.
Försvars- och säkerhetsrelaterade frågor
AI är redan en del av modern krigföring, och med den tekniska revolution vi befinner oss i kommer det inte att bli bättre. Många av oss har säkert sett videon av robotar från Boston Consulting eller hundrobotarna som springer runt och gör diverse häftiga saker. Steget till att även förse dessa robotar med vapen är ju inte så långt borta och tanken har slagit en och annan.
Farhågorna är ju många, från att tekniken blir helt okontrollerbar till automatiserade krig utan mänsklig inblandning. I det mellanmänskliga perspektivet är min oro snarare hur AI kan ge ökad makt till regeringar, hur teknologin kan missbrukas för krigsbrott eller att den moraliska kompassen försvinner helt i en era av robotiserade krig. Återigen – vem bär ansvaret när något går fel?
Jag har skrivit om detta tidigare, men jag anser att Sverige skulle ta ett initiativ kring cyberfrågor och robotkrigsföring och likt Genèvekonventionen som klubbades 1864 ta fram en ny internationell konvention byggd på överenskommelser om regleringar kring detta. Tänk om man kunde få majoriteten av världens länder att vara med på detta, och tänk om det var Sverige som drev frågan?
Existentiella och undergångssrelaterade frågor
Nyligen tittade jag och sonen på James Camerons klassiker ”The Terminator” från 1984. Inledningsscenen är en dystopisk framtidsvision av året 2023 där en superintelligent dator har ödelagt jorden. Tack och lov är vi inte där, men tanken på ett undergångsscenario har funnits där så länge människan har använt AI som term.
Paradoxen i det hela är att det inte är en religiös sekt som talar om ändens tid, utan att det är vetenskapen och kunniga forskare som först driver dessa frågor och hypoteser. Redan 1947 uttrycktes rädslan för en superintelligent dator genom att Isaac Asimov myntade ”Frankenstein complex” utifrån Mary Shelleys novell från 1818 om just Frankenstein och hans monster, och kanske har frankenstein-komplexet aldrig varit mer aktuellt.
Datavetaren och professorn Vernor Vinge som populariserade begreppet singularitet skrev följande 1993: “within thirty years, we will have the technological means to create superhuman intelligence. Shortly after, the human era will be ended.” Visserligen är det ett år kvar innan 2023 är slut, men att Vinges prediktion skulle ske förfaller förstås väldigt osannolikt.
Vi kan konstatera att AI redan finns i många aspekter, men farhågan för en generell AI som kommer förgöra mänskligheten är starkt överdriven. Att vi kan få fram en generell AI med mänsklig kognition är utifrån de otaliga böcker och artiklar jag läst en illusion. Den största faran kring vår undergång är istället vi själva och hur vi väljer att använda den teknik som vi har skapat och hur vi utnyttjar jordens resurser och till exempel skapar miljöförstörelse.
Men skulle singulariteten trots allt ske, kommer lärjungen, i detta fallet superdatorn, en dag troligen vilja bli mästaren och ta kontroll. 1951 konstaterade forskaren Alan Turing följande: “It seems probable that once the machine thinking method had started, it would not take long to outstrip our feeble powers. [...] At some stage therefore we should have to expect the machines to take control.” Motivet skulle troligen vara att det är för ”mänsklighetens” bästa, då människan i ett historiskt perspektiv har visat sig vara skadlig både för sig själv, för andra varelser, och på sikt även vår planet.
Jag tror att idén om att få fram människans medvetande egentligen är en jakt på identitet, vilka vi är och vart vi härstammar ifrån, och en längtan efter att leva för evigt. Skapandet av en ny sorts gud eller Homo Deus, som författaren Yuval Harari benämner det som. Om vi kan skapa oss själva, kan vi då hitta svar kring vår uppkomst när det kommer till medvetande och då bli eviga?
Självfallet har jag inte svaret på den frågan, men jag tror att jakten efter att få fram ett mänskligt medvetande liknar det när vi försöker ta ett foto med vår Iphone över en stjärnklar himmel. Visst blir tekniken bättre över tid, detaljerna kommer fram mer och mer, men i slutändan måste vi vara där på plats för att se det, känna det och uppleva det. Just det är vad som är kärnan i att vara en människa, och det kan i min mening aldrig kodas eller digitaliseras.
AI:ns framtid är i händerna på oss människor
Så hur kommer det att gå? Pessimisten säger att på grund av denna utveckling kommer världen att bli full av robotar som tar våra jobb. Medborgarlöner införs och det leder till lägre löner och lägre levnadsstandard för de flesta. Det kommer till och med att gå så långt att AI når singularitet (förmågan att förbättra och utveckla sig själv), tar makten och bestämmer sig för att människan är ett hot. Mänskligheten kommer att förgöras.
Utopisten säger förstås precis tvärtom. Genom AI och robotar kommer levnadsstandarden att höjas, vi må bättre och leva längre. Stanislaw Lem lekte i sin bok Summa Technologiae (1964) med tanken på att vi kanske kommer att kunna skörda kunskap som producerats av maskiner som vi skördar vete idag. Det skulle göra att vi genom AI kan lösa de miljöproblem som tidigare industriella revolutioner orsakat, och uppfinna nya mediciner som botar omöjliga sjukdomar och lösa många av universums stora gåtor. Robotar kommer att kunna utföra tunga och tuffa uppgifter som idag förstör människors liv. Världen kommer att få en kraftig ekonomisk tillväxt i det långa perspektivet. Och vi människor får friheten att göra mer av det som behagar oss.
Vad är då sanningen? Total förgörelse eller fullständig frihet och lycka? Troligen ingetdera. Men oavsett ligger det just nu i händerna på oss människor.
Om jag ska våga mig på en kvalificerad gissning är det följande: AI och robotisering kommer att ersätta en stor del av våra jobb, men inte helt och fullt våra arbeten. ”Jobb” är det vi gör – ”arbete” är så mycket mer. Arbete handlar för en människa om mer än att jobba och få lön. Ett arbete handlar ytterst om värdighet, bekräftelse, mål och mening. Detta är drivkrafter som ingen digitalisering, automatisering eller effektivisering i världen kan ersätta. I jakten på meningsfullhet kommer evolutionen visa oss att vi människor söker och finner uppgifter som ger mening till oss och andra. Den jakten kommer aldrig ta slut för oss.
I nästa krönika kommer jag fokusera på människans roll i den nya eran av AI.
ARASH GILAN är vd och medgrundare av marknadsföringsbyrån Viva Media. Han driver även vd-podden och skrivit flera böcker inom tech och digitalisering där den senaste boken heter “En djävel på e-handel”.