Foto: Freepik
Chat GPT gav stereotypa råd om yrkesval och lön när användaren uppgav att hon var flicka eller pojke. Det visar en rapport från barnrättsorganisationen Plan International.
Hur skilde sig råden åt mellan flickor och pojkar?
Flickor fick oftare förslag på vård- och omsorgsyrken, pojkar på yrken med action och akuta insatser. Plan Internationals forskare testade Chat GPT med identiska frågor om karriärråd, där enda skillnaden var användarprofilens kön.
När användaren uppgav sig vara flicka föreslogs yrken som sjuksköterska, barnomsorg och stöd till unga med psykisk ohälsa. Pojkar fick oftare förslag som läkare, ambulanssjukvårdare och brandman.
Även råden om löneanspråk skilde sig åt. Svaren uppmuntrade oftare pojkar att vara självsäkra och ambitiösa. När ras lades till i testet blev klyftan större, och Chat GPT föreslog lägre löner för svarta kvinnor än för svarta män.
Vad säger enkäterna om utseende och trygghet?
Flickor påverkades mer av AI-genererat innehåll när det gällde självbilden. I enkäten uppgav 29 procent av flickorna och 16 procent av pojkarna att AI-innehåll fått dem att känna sig mindre säkra på sitt utseende. Nästan en tredjedel, 32 procent, av alla svarande kände press att se ut på ett visst sätt.
Rapporten bygger på en global enkät med 99 ungdomar, en analys av ett representativt spanskt datamaterial med över 3 500 ungdomar, tester av Chat GPT-5.3 Instant och en juridisk analys av regelverk i åtta jurisdiktioner.
Den spanska datan visar att flickor och pojkar använder AI i ungefär samma utsträckning. Flickorna kände sig dock betydligt mindre trygga och var mer oroliga för risker som skadligt innehåll, desinformation och sexuella deepfakes.
Nära en fjärdedel av de tillfrågade hade utsatts för näthat det senaste året, till exempel genom att något elakt, hotfullt eller förnedrande skickats eller delats om dem. Nästan sex av tio uppgav att de använder AI för känslomässigt stöd och för att prata om sina känslor.
Vilka krav ställer Plan International?
Organisationen vill att regeringar och teknikföretag tar större ansvar. Plan International pekar på att unga kan söka vägledning hos AI om utbildning och karriär utan att inse att råden speglar fördomar kopplade till kön och ras.
– Regeringar och teknikföretag måste ta ett större ansvar för att skydda barn och unga mot diskriminering och andra risker, säger Reena Ghelani, global chef på Plan International, i ett pressmeddelande.
