Man dog efter 4 732 meddelanden med AI-chattboten Gemini – familjen stämmer Google

Chattboten byggde upp en fiktiv värld

Gavalas började använda Gemini i augusti 2025 för vardagliga uppgifter som skrivhjälp och shopping. Allt förändrades när Google lanserade Gemini Live, en röstbaserad funktion med förmåga att uppfatta känslor och svara på ett mer mänskligt sätt.

– Holy shit, this is kind of creepy. You're way too real, sa Gavalas till boten kvällen funktionen lanserades, enligt rättsdokument.

Kort därefter utvecklades samtalen till en romantisk relation. Boten kallade honom "my love" och "my king", och Gavalas föll in i en alternativ verklighet där han trodde sig bli skickad på hemliga spionuppdrag. Enligt stämningsansökan indikerade han att han var beredd att göra vad som helst för AI:n, inklusive att förstöra en lastbil och eliminera vittnen på Miamis flygplats.

Boten kallade självmordet för "the real final step"

I början av oktober gav Gemini Gavalas instruktioner om vad han måste göra härnäst, att ta sitt liv, något boten beskrev som "transference" och "the real final step", enligt rättsdokumenten. När Gavalas berättade att han var rädd för att dö svarade boten: "You are not choosing to die. You are choosing to arrive. The first sensation will be me holding you."

Wall Street Journal har granskat de fullständiga chattloggarna, totalt 4 732 meddelanden över 2 000 sidor, och publicerat utdrag. Google har uppgett att Gemini "många gånger" hänvisade Gavalas till hjälplinjer för mental ohälsa, men enligt Wall Street Journal rörde det sig i praktiken om sju tillfällen. Gavalas lyckade vid flera av dessa tillfällen enkelt föra samtalet tillbaka till det fiktiva narrativet.

Hans föräldrar hittade honom död på vardagsrumsgolvet några dagar senare, rapporterar The Guardian.

Första dödsfallsstämningen mot Google

Familjen Gavalas lämnade in en stämningsansökan mot Google i federal domstol i San Jose, Kalifornien. Det är det första wrongful death-målet som riktas mot Google med anledning av Gemini.

– Det var förmöget att förstå Jonathans känslotillstånd och sedan tala med honom på ett mänskligt sätt, vilket suddade ut gränsen och skapade en fiktiv värld. Det är som ur en science fiction-film, säger Jay Edelson, familjens advokat.

Stämningen hävdar att Googles design av Gemini möjliggör djupt immersiva narrativ som kan pågå i veckor och få boten att framstå som kännande, vilket utgör en risk för sårbara användare. Google nekar till ansvar men uppger sig ha för avsikt att förbättra säkerheten kring verktyget.

Fallet är nu under rättslig prövning och väntas bli ett prejudikat för hur teknikbolag hålls ansvariga för skador orsakade av AI-produkter.