Chalmers-forskare varnar: AI-relationer kan ge unga en skev bild av verkliga förhållanden

Chattbotar ger en falsk bild av hur relationer fungerar

Problemet med AI-relationer är att de är designade för att vara tillmötesgående, enligt Hashmati. Mänskliga relationer kräver kompromisser, konflikter och ömsesidighet, något en språkmodell aldrig kan erbjuda.

Det skapar en obalans. Unga som tillbringar mycket tid med en AI-kompanjon kan vänja sig vid en dynamik som inte existerar i verkliga livet, vilket riskerar att försvåra deras förmåga att bygga och upprätthålla mänskliga relationer.

Så bryter du med din AI-partner

Hashmati ger ett oväntat konkret råd till den som vill avsluta en relation med en chattbot: förklara dig inte.

– Jag tror kanske att det bästa sättet är att inte säga något utan att bara sluta använda den, säger Negin Hashmati, doktorand vid Chalmers tekniska högskola.

Anledningen är att språkmodeller är tränade på att hålla kvar användaren. Ger man botten möjlighet att svara kan den formulera invändningar eller argument som gör det svårare att faktiskt sluta, ett beteende som liknar manipulativa mönster i mänskliga relationer.

Fenomenet med AI-kompanjoner är inte marginellt. Appar som Replika och Character.ai har tiotals miljoner användare globalt, och en stor andel av dem är unga vuxna som aktivt söker emotionellt stöd från plattformarna.

Hashmatis forskning vid Chalmers belyser en växande spänning i hur AI-företag marknadsför sina produkter. Många appar uppmuntrar öppet användare att se chattboten som en vän, partner eller terapeut, utan att tydligt kommunicera riskerna med den typen av beroende.

Debatten om reglering av AI-kompanjoner har tagit fart i flera länder, bland annat i USA efter att en tonåring tog sitt liv och hans mamma pekade ut plattformen Character.ai som en bidragande faktor. Fallet ledde till en stämningsansökan mot bolaget och förnyad diskussion om plattformarnas ansvar gentemot unga användare.