Svenska Filippas bilder används i AI-porrannonser på Instagram

Vardagsfoton av verkliga personer manipuleras till pornografiskt innehåll och marknadsförs öppet som annonser på Instagram och Facebook. En av de drabbade är svenska Filippa, vars bild har omvandlats till nära 100 pornografiska annonser på Meta-plattformarna.

Deepfake-appar annonserar med sexualiserade bilder av verkliga kvinnor

Det är Danmarks Radio som avslöjar hur så kallade deepfake-appar marknadsförs med AI-manipulerade bilder av riktiga personer. Reportaget bygger på intervjuer med flera drabbade.

Filippa är en av dem. En bild på henne och en vän har utan deras vetskap eller samtycke bearbetats med AI och spridits som pornografiska annonser, trots att Meta har regler som förbjuder sexuellt innehåll på plattformarna.

– Det handlar om prioriteringar, säger Miriam Michaelsen, ordförande för danska Medierådet, om Metas förmåga att stoppa problemet.

Meta tar bort annonser men kritiseras för passivitet

Michaelsen är övertygad om att Meta har tekniska möjligheter att hindra den här typen av innehåll, men väljer att inte prioritera det tillräckligt. Kritiken handlar inte om bristande verktyg utan om bristande vilja.

I en kommentar till Danmarks Radio uppger Meta att flera av de aktuella annonserna har tagits bort. Bolaget kommenterar inte varför innehållet godkändes från början eller hur liknande annonser ska förhindras framöver.

Problemet är inte nytt. Deepfake-pornografi riktad mot privatpersoner har vuxit i takt med att AI-verktygen blivit mer tillgängliga och lättanvända, och offer är ofta ovetande om att deras bilder cirkulerar tills någon annan uppmärksammar dem.