Meta släppte igenom över 300 annonser med AI-genererat övergreppsmaterial

Annonser för "avklädningsappar" nådde ut på plattformarna

Bakom annonserna ligger huvudsakligen kinesiska så kallade avklädningsappar, verktyg utformade för att generera manipulerade nakenbilder med hjälp av AI. Annonserna passerade Metas automatiska granskning och nådde användare på både Facebook och Instagram.

I flera fall har innehållet utgått från bilder på verkliga barn. Bland de drabbade finns, enligt Wired som rapporterar om rapporten, en icke namngiven medlem av en europeisk kungafamilj.

Meta säger sig inte tolerera exploatering av barn

Meta uppger i ett uttalande att bolaget inte tolererar den här typen av appar eller någon form av exploatering av barn. Trots det passerade alltså hundratals annonser med sådant innehåll plattformarnas granskningssystem.

Tech Transparency Project är en ideell organisation som granskar teknikbranschens aktörer. Rapporten sätter press på Meta att skärpa sina annonsgranskningssystem, särskilt i takt med att AI-genererat material blir alltmer svåridentifierat.

Fallet väcker frågor om hur effektiva plattformarnas automatiserade system är när det gäller att fånga upp skadligt innehåll innan det når användarna, och om Metas interna rutiner håller måttet i en tid då AI-verktyg för att skapa manipulerat material blivit alltmer lättillgängliga.