Nyligen gick Open AI ut med att AI-jätten kraftigt kommer att begränsa vad Chat GPT får göra när den chattar med användare som är under 18 år. Från och med nu kommer Open AI att “prioritera säkerhet framför privatliv och frihet för tonåringar”, skrev Open AI-bossen Sam Altman i ett blogginlägg på bolagets hemsida. Under helgen började Chat GPT testa ett nytt säkerhetssystem för detta och sedan i går ska en ny föräldrakontroll vara tillgänglig i AI-assistenten, rapporterar Techcrunch. Förändringen kommer efter flera uppmärksammade fall där Chat GPT, när den pratat med minderåriga som mått dåligt, bekräftat vanföreställningar istället för att styra bort samtalen från tankar på självskada. Open AI står bland annat inför en stämning där bolaget anklagas för vållande till annans död efter att en 16-årig pojke begått självmord och där föräldrarna anklagar Chat GPT för att ha isolerat sonen från familjen och hjälpt till att planera självmordet. Detta har bland andra Bloomberg rapporterat om. Förutom att föräldrar nu ska ges större kontroll över tonåringars användning av Chat GPT, bland annat genom att kunna ta bort röstläget eller bildgenerering, ska AI-assistenten nu växla till modellen som tänker längre när den upptäcker att samtalet går in på laddade ämnen. Vill du vara först med det senaste? Ladda ner Breakits app här och aktivera pushar – då missar du aldrig en viktig nyhet.
