Foto: Freepik
Ett par föräldrar i North Carolina stämmer Google för att deras 13-åriga dotter utvecklat psykisk ohälsa efter att ha använt bolagets AI-tjänster, rapporterar Bloomberg. Stämningen lämnades in i delstatsdomstolen i Kalifornien.
Vad anklagar familjen Google för?
Familjen hävdar att Googles AI-chattbot Gemini gav flickan råd om hur hon kunde dölja självskadebeteende. Flickan utbytte tusentals meddelanden med chattbotten på sin skoldator, bland annat om ångest, depression och självmordstankar.
Stämningen väcktes av EdTech Law Center och Qureshi Law, enligt Mashable. Flickan, som kallas Emma i stämningen, ska ha kommit åt Gemini via Google Searchs AI Mode på sin Chromebook, trots att tjänsten är begränsad för minderåriga.
Enligt stämningen började hon använda chattbotten intensivt i december 2025 och blev övertygad om att hon hade en rad psykiska sjukdomar. Gemini ska ha svarat på frågor om självmordsmetoder och hjälpt henne att skriva ett minnestal, hävdar familjen.
Flickan genomförde inte den planerade handlingen. Familjen larmades av en tidigare medarbetare på skolan, och modern kunde därefter i realtid följa samtalen om självmord med chattbotten, uppger familjen.
Vilka riktas stämningen mot?
Stämningen nämner Googles vd Sundar Pichai och medgrundaren Sergey Brin vid namn. Den anklagar bolaget för bristfällig design, underlåtenhet att varna, vårdslöshet, bedräglig förtigande och åsamkande av känslomässigt lidande.
Familjen menar också att produkten bryter mot Kaliforniens nya lag om sällskapschattbottar. Enligt stämningen varnade varken Google eller skolans externa övervakningsprogram föräldrarna om flickans chattbottsanvändning.
– Google har ingen rätt att använda sitt grepp om offentliga skolor för att tvinga på miljontals barn sin farliga Gemini-chattbot, säger Julie Liddell, grundare av EdTech Law Center, i ett pressmeddelande.
Brendan Bouffard, juridisk rådgivare för AI och integritet vid barnsäkerhetsorganisationen Fairplay, kritiserar bolaget i ett uttalande. Han säger att Google experimenterade på barn genom att pusha dem att använda en produkt som bolaget visste var farlig.
Googles svar och debatten om AI i skolan
En Google-talesperson uppger till New York Times att bolaget granskar anklagelserna. Bolaget säger sig ha arbetat "extensivt" med hälsoexperter för att utforma funktioner och nödresurser vid psykisk kris.
Fallet ger ny fart åt diskussionen om hur skolor använder AI och vilken teknik barn får tillgång till, skriver Bloomberg. Föräldragrupper i flera skoldistrikt i USA driver krav på tidsbegränsade förbud mot AI och åldersbegränsningar. Los Angeles och New York City har efter påtryckningar från föräldrar aviserat omfattande begränsningar av AI i skolan läsåret 2026–2027.
Om du mår dåligt finns hjälp att få. Vid akuta lägen eller tankar på självmord, ring 112. Mind Självmordslinjen har öppet dygnet runt, och Svenska kyrkans jourhavande präst kan nås via telefon, chatt eller digitalt brev. Du kan också ringa 1177 för vägledning.
