Vad händer om vi utsätter en AI för död och misär?
Det var en fråga som forskarna på MIT, ett av världens främsta universitet, kände att de behövde svar på.
Forskarna skapade en AI och döpte den till Norman, efter galningen Norman Bates i "Psycho". Ett passande namn eftersom lösningen beskrivs som "världens första psykopat-AI", enligt Techcrunch.
Det är egentligen hälsosammare att inte fundera över smarta maskiner med psykopatiska läggningar – men fortsättningen följer så klart.
Forskarna ville att Norman skulle komma i kontakt med död och introducerade AI:n för de mörkare delarna av forumet Reddit.
Normans tolkningar av bilder jämfördes sedan med vanliga AI-nätverk som haft en mindre dyster träningsperiod.
När den vanliga AI:n såg en flock fåglar på en gren såg Norman en man som elektrifierades ihjäl. En blomvas blev ihjälskjutna personer och när den andra AI:n såg människor i grupp såg Norman personer hoppa från fönster.
Ja, ni fattar.
Poängen med det hela var att ta reda på hur datan vi använder inom maskininlärning egentligen påverkar utvecklingen. Inte så väl, i det här fallet. Mötet med misären på Reddit uppges nämligen ha varit en traumatiserande upplevelse för Norman.
”Norman led av den långvariga exponeringen av de mörkaste hörnen av Reddit och fältstudien visar på farorna med AI som går fel när partisk data används inom maskininlärning. När människor säger att AI-algoritmer kan vara partiska och orättvisa är boven ofta inte algoritmen utan den data den matas med”, konstaterade MIT-forskarna.
Det är inte första gången sociala medier misshandlar en AI-robot. För två år sedan släppte Microsoft lös sin AI på ett Twitter-konto, varpå andra användare omedelbart uppfostrade den till nazist.
Uppdatering: Vi har lagt till citationstecken runt ordet "psykopat" i rubriken, för att förtydliga att vi inte här talar om den kliniska termen utan den vardagliga beskrivande formen.