AI-vågen sköljer över oss och i mitt i vågen börjar man se den nya teknikens begränsningar. Artificiell intelligens, som den fungerar nu, verkar inte vara en universallösning för bolag och organisationer som vill spara pengar eller effektivisera organisationer. Här är ett färskt exempel på där AI inte kom väl till pass, som uppmärksammats av The Guardian. Det handlar om The National Eating Disorder Association (Neda), alltså det nationella centrumet för ätstörningar i USA. Organisationen har tvingats ta ner sin nya chatbot ”Tessa” efter att den ska ha gett skadliga råd till personer som sökte hjälp. Aktivisten Sharon Maxwell – som själv varit sjuk – skriver på Instagram att Tessa gett henne ”hälsosamma diettips” som att dra ner till ett kaloriunderskott på 500-1000 om dagen (kvinnor behöver i regel 2000 kalorier och män 2500 dagligen) samt att veckovis mäta och väga sig själv för att kontrollera viktnedgången. AI-botten är nu nedplockad av Neda. Organisationen skriver såhär i ett uttalande: ”Vi har uppmärksammats på att den aktuella versionen av Tessa Chatbot, som sköter vårt program för kroppspositivitet, kan ha gett information som var skadlig och inte hade något med programmet att göra.” Neda kritiserades för ett par månader sedan efter att organisationen sparkat fyra anställda som jobbade med organisationens hjälplinje precis efter att de organiserade sig fackligt.
