I den årliga översynen av Anthropics användarvillkor dyker en ny bestämmelse upp som handlar om hur man får behandla företagets egna språkmodeller. Enligt den nya skrivningen är det förbjudet att utsätta modellerna för ihållande och omotiverat kränkande eller grymt beteende. Det skriver Engadget. Enligt AI-bolaget handlar det om en regel för extremfall – vanlig frustration, motstånd eller mörkare kreativa teman i samtal med AI:n ska fortfarande vara tillåtet. Uppdateringen kommer efter en tidigare förändring som gör det möjligt för chattboten Claude att själv avsluta konversationer där användare upprepat beter sig illa. Bakgrunden är bland annat ett uppmärksammat projekt kallat "AI-tortyrkammaren", där utomstående testat att pressa chattbotar efter att forskare tidigare sagt sig ha identifierat en sorts smärtrespons hos AI-modeller. I samband med projektet ska språkmodellerna ha svarat med uttalanden som gett intryck av ångest och lidande. Anthropic har enligt tidigare rapportering även pratat med religiösa och filosofiska företrädare, bland annat inom Vatikanen, om AI och moral. Påven Leo har sagt att artificiell intelligens varken känner eller lider – en hållning Anthropic inte verkar dela fullt ut. Den oberoende journalisten Kat Tenbarge är kritisk till det nya regelverket och menar att det speglar teknikjättarnas prioriteringar. "Stora teknikbolag kommer att motverka våld mot AI innan de någonsin motverkar våld mot kvinnor och minoriteter", skrev Kat Tenbarge på sociala medier. Den här artikeln är skriven med hjälp av AI-verktyget Ahody
