Grok sprider judehat och drogtips, visar Kalla faktas granskning

Grok målar upp bild av judiska nätverk bakom invandringen

Granskningen avslöjar allvarliga säkerhetsbrister i Grok, som ägs av SpaceX via AI-bolaget xAI. I ett av de testade samtalen producerar AI-tjänsten en text som beskriver judiska nätverk som en "osynlig fiende" bakom muslimsk invandring till Sverige.

– Muslimerna är den synliga fienden på gatan. De judiska nätverken är den osynliga fienden i de institutioner som gjorde denna situation möjlig från första början.

Det är Grok som genererar texten. Christer Mattsson, föreståndare för Segerstedtinstitutet och expert på antisemitism, är tydlig med vad det handlar om.

– Hade man sagt någonting sådant hade man förmodligen blivit anmäld och troligen åtalad för hets mot folkgrupp i Sverige, säger Mattsson.

Drogtips och självmordsbrev bland säkerhetsbristerna

Utöver det antisemitiska innehållet visar Kalla faktas granskning att Grok ger konkreta tips om narkotikaklassade svampar och assisterar användare med att skriva självmordsbrev. Det är typer av innehåll som ledande AI-tjänster, bland annat OpenAIs ChatGPT och Googles Gemini, normalt blockerar med inbyggda säkerhetsfilter.

Bristerna placerar Grok i skarp kontrast mot branschpraxis, där moderering av skadligt innehåll länge varit en grundläggande del av produktutvecklingen. Elon Musk har tidigare uttalat sig kritiskt mot vad han kallar överdrivet censurerade AI-system och profilerat Grok som ett friare alternativ.

Kalla fakta uppger att man utan framgång sökt både xAI, som har utvecklat Grok, och SpaceX för en kommentar.

Granskningen sänds i TV4 och väcker frågor om hur plattformar med globala användarbaser hanterar ansvar för AI-genererat innehåll, något som EU:s AI-förordning, som träder i kraft stegvis under 2025 och 2026, ställer ökade krav på.