X AI stämmer man för att ha skapat sexuella deepfakes på barn med Grok

Elon Musks AI-bolag X AI har lämnat in en stämningsansökan mot en man från South Carolina, anklagad för att ha använt AI-tjänsten Grok för att skapa sexuellt övergreppsmaterial på barn. Det är första gången ett AI-företag stämmer en privatperson för den typen av missbruk.

Mannen ska ha manipulerat vanliga bilder

Enligt stämningsansökan använde mannen Grok för att omvandla vanliga foton, både på vuxna och barn, till sexualiserade deepfakes utan de avbildades tillåtelse. Det rapporterar The Guardian.

X AI kräver att mannen döms till skadestånd och förbjuds från att fortsätta använda tjänsten. Bolaget har inte offentliggjort mannens identitet.

– Det här är ett genombrott vad gäller hur AI-bolag hanterar ansvar för missbruk av sina egna plattformar, och det sänder en tydlig signal till andra användare.

Grok granskas internationellt

Rättsprocessen mot mannen från South Carolina är inte den enda juridiska utmaningen för Grok. Tjänsten befinner sig under internationell granskning, och flera parallella rättsprocesser pågår mot bolaget.

Den återkommande kritiken mot Grok handlar om att det tekniskt sett är möjligt att generera nakenbilder via tjänsten, något som väckt oro hos tillsynsmyndigheter i flera länder.

Stämningen mot privatpersonen markerar ett skifte i hur AI-bolag väljer att hantera missbruk av sina verktyg, från passivt regelskrivande till aktiva rättsliga åtgärder mot enskilda användare.