AI-chattbotar används på motsatta sätt vid ätstörningar

Chattbotarna används både för att söka hjälp och för att förvärra sjukdomen

Trenden är tydlig enligt Shedo, en organisation som arbetar med ätstörningar och självskadebeteende. Tjänster som ChatGPT används av vissa för att få råd om hur de ska ta sig ur sin sjukdom.

Men samma verktyg används av andra för att räkna kalorier, ta fram kostscheman och hitta viktnedgångsmedicin, vilket riskerar att förvärra tillståndet.

– Den hjälpte mig att gå ner i vikt, och kort därefter sa den att jag skulle söka hjälp för det, säger Maja, 18 år, som tidigare varit sjuk i anorexi.

Majas erfarenhet illustrerar en grundläggande problematik: AI-chattbotar saknar förmåga att konsekvent bedöma när ett svar kan skada användaren.

Organisationer larmar om dubbelrollen

Cassandra Lawrence, ordförande för Shedo, bekräftar att fenomenet har vuxit. Chattbotarnas tillgänglighet gör dem till ett enkelt första steg för någon som söker svar, oavsett om syftet är att få hjälp eller att hitta sätt att fortsätta med destruktiva beteenden.

Problemet är att AI-verktygen inte är utformade för att hantera känsliga hälsofrågor på ett säkert sätt. De kan ge motstridiga svar i samma konversation, som i Majas fall, utan att det finns någon klinisk bedömning bakom svaren.

För den som har problem med mat, kropp eller ätande finns professionell hjälp att få via vården. Vid akuta eller allvarliga fysiska symtom bör man kontakta sjukvården direkt eller ringa 112.