I veckan publicerade Financial Times en artikel om hur riskkapitalbolag i allt större utsträckning börjat använda sig av artificiell intelligens – AI – för att hitta nya potentiella företag att investera i. Jag blir superpeppad! Plötsligt kan helt nya typer av bolag på små marknader och som drivs av entreprenörer utan flashiga nätverk upptäckas av potentiella investerare. Med tanke på hur oerhört tidskrävande det måste vara att nosa upp alla dessa potentiella bolag så kan ju den här satsningen också leda till att fler bolag får chansen.
I en tid då jämställdhetsfrågan står högre än någonsin på agendan hos bolag runtom i världen så är det här världens chans för riskkapitalisterna att komma i kontakt med bolag de annars inte hade stött på.
Men så läser jag på i artikeln och peppen övergår snart i viss oro och besvikelse. Hela hösten har det diskuterats partiska AI och det finns flertalet exempel på AI som visat sig ha inbyggda fördomar om både ras och kön. En studie gjord vid Princeton universitetet visade till exempel att ett AI hade lärt sig att associera positiva ord som “glad” eller “present” med europeiska namn medan afrikanska namn associerades med negativa ord. Ett annat system, vars syfte är att bedöma sannolikheten i att en anklagad kommer att bli en återfallsförbrytare, visade sig vid närmare granskning bedöma minoriteter hårdare. Ett AI blir med andra ord så fördomsfullt som vi lär det att bli.
En av de intervjuade personerna i Financial Times-artikeln snuddar vid temat och påpekar att algoritmen inte “helt och hållet” fungerar som ett skydd mot partiskhet men att det åtminstone hjälper bolagen att titta närmare på nya typer av alternativ. Vi befinner oss mitt i den mest intensiva jämställdhetsdebatten någonsin. Varför är det ingen av de intervjuade bolagen bakom dessa satsningar, som skulle kunna göra skillnad på riktigt, som pratar om hur de ska arbeta för att bygga bort den här partiskheten?
Få redogör för hur deras AI är byggt, men i Financial Times-artikeln kan vi läsa oss till att algoritmen samlar in information om hur mycket trafik bolagets sajt får, vilka de anställer och vilka produkter de bygger. En del av dessa är helt vanliga fakta som givetvis är helt rimliga att ta hänsyn till. Men jag blir genast också nyfiken på vad detta AI anser vara bra anställningar? I rekryteringssammanhang har det länge varit känt att att både fördomar och partiskhet tyvärr ofta spelar in när talanger ska hittas och rekryteras. Vi vet också att företag som använder sig av argumentet “vi rekryterar bara på kompetens” i huvudsak rekryterar män, och att det flera gånger visat sig att begreppet kompetens inte är så objektivt som man kanske kunde tro eller önska.
Det är jättetråkigt att sätta på sig den svarta hatten, men med tanke på riskkapitalisternas historiskt sett katastrofala jämställdhetssiffror, och i ljuset av det senaste årets granskningar som både belyst hur homogen kulturen är på riskkapitalbolagen, hur kvinnor och mäns investeringspitcher bemöts och bedöms olika, och det faktum att majoriteten av alla riskkapitalinvesteringar fortfarande går till manliga grundare så är det inte utan att jag känner mig besviken över att bolagen inte tar tillfället i akt och gör en aktiv insats för att förändra riskkapitalbranschen.
Än så länge står dessa AI:s bara för en sorts första gallring, sen övergår riskkapitalisterna i artikeln till att prata om instinkt eller magkänsla, trots att det är tämligen väl bevisat att magkänsla egentligen bara är ett finare ord för fördomar. I en väldigt likriktad kultur är det inte så konstigt att man delar en upplevd magkänsla av vad som “hittills alltid funkat och därför antagligen kommer att funka igen.” Innan riskkapitalisterna aktivt arbetar med att medvetandegöra sina egna fördomar och på riktigt börjar investera bortom normen så tror jag tyvärr inte att vi kommer att se några större förändringar bland investeringarna, hur objektiva de än hävdar att deras algoritmer är.