San Francisco tvingar Apple och Google att ta ner AI-nakenbild-appar
Foto: Freepik
Apple och Google har tvingats ta bort flera appar som med hjälp av AI genererar avklädda bilder på verkliga personer, efter krav från staden San Francisco.
Städer och åklagare sätter press på techbolagen
San Francisco agerade efter att ha fastställt att apparna bryter mot lagen, rapporterar TechCrunch. Staden uppger att flera varningar redan hade skickats till bolagen innan kravet på nedtagning kom.
Kaliforniens delstatsåklagare riktar skarp kritik mot de båda techgiganterna.
– Apple och Google tjänar pengar på appar som utnyttjar kvinnor och flickor genom att skapa intima deepfakes utan samtycke, skriver åklagaren.
Formuleringen understryker att problemen inte handlar om enstaka övertramp, utan om ett systematiskt utnyttjande där plattformsbolagen ansetts medvetna om vad apparna används till.
Båda bolagen bekräftar att apparna tagits bort
Apple och Google uppger att apparna nu är borttagna från App Store respektive Google Play. Hur många appar det rör sig om framgår inte av de uppgifter som TechCrunch publicerar.
Fallet är en del av en bredare debatt om techbolagens ansvar för det innehåll som distribueras via deras plattformar. Så kallade deepfake-appar, som använder AI för att manipulera eller generera bilder av verkliga personer utan deras samtycke, har spridits snabbt och blivit ett växande juridiskt och etiskt problem i flera länder, bland annat USA, Storbritannien och Australien.
Lagstiftningen på området är fortfarande under utveckling i många jurisdiktioner, men trycket på plattformsbolag att agera proaktivt ökar. Huruvida San Francisco eller Kalifornien planerar ytterligare rättsliga åtgärder mot Apple och Google är ännu inte känt.
