IMY varnar unga: AI-chattar om intima ämnen kan bli offentliga

Integritetsskyddsmyndigheten IMY varnar för att personliga chattar med AI-tjänster kan hamna i offentligheten, efter att över 96 000 chattar redan publicerats utan att användarna förstod konsekvenserna.

Mer än hälften av unga delar personliga problem med AI

Över 50 procent av barn och unga pratar med AI-chatbotar om personliga eller intima problem, enligt uppgifter som IMY lyfter fram och som rapporteras av Dagens Nyheter. Samtidigt är det få i den gruppen som känner till att deras konversationer kan bli synliga för vem som helst.

Problemet uppstår i gratisversioner av tjänster som ChatGPT, Gemini, Claude och Grok. När en användare väljer att "dela" en chatt i dessa tjänster innebär det i praktiken att chatten publiceras öppet på internet, något som många inte förstår.

– Tumregeln är att man inte bör dela information med AI om man inte känner sig bekväm med att vem som helst kan läsa informationen, skriver IMY i ett blogginlägg.

96 000 chattar har redan läckt ut

Konsekvenserna är redan märkbara. Fler än 96 000 chattar har publicerats offentligt till följd av att användare delat sina konversationer utan att inse vad det innebär, uppger it- och informationssäkerhetsspecialisten Petter Flink på IMY till Dagens Nyheter.

Att just unga är en sårbar grupp i det här sammanhanget hänger ihop med att de i hög utsträckning vänder sig till AI för stöd i känsliga frågor. Konversationer om psykisk hälsa, relationer eller andra privata ämnen kan alltså vara sökbara och läsbara för utomstående.

IMY:s varning riktar sig till användare av gratistjänster specifikt, där villkoren för datadelning skiljer sig från betalversioner. Myndigheten uppmanar till försiktighet och påminner om att information som skrivs in i en AI-chatt inte automatiskt är skyddad.