TikTok testar AI-verktyg för att hitta deepfakes av användare

Så fungerar systemet

Testet bygger på att kreatörer frivilligt anmäler sig och tar en selfie, som sedan används för att söka igenom TikTok efter AI-genererade videor där deras ansikte förekommer utan tillstånd. Enligt TikToks amerikanske talesperson Zachary Kizer, som citeras av The Verge, sparas inte id-uppgifterna efter att identiteten verifierats.

– Selfien används enbart för att matcha mot potentiellt AI-genererat innehåll på plattformen, uppger Kizer till The Verge.

Hittas en video som skapats utan kreatörens tillåtelse kan både videon och kontot bakom den anmälas och tas bort.

Deepfakes ett växande problem för plattformar

AI-genererade videor som imiterar verkliga personer, så kallade deepfakes, har blivit ett allt större problem för sociala medieplattformar. Innehållet kan spridas snabbt och användas för att vilseleda, trakassera eller skada enskilda personers rykte.

TikTok är inte ensamt om att söka tekniska lösningar. Flera stora plattformar, bland annat Meta och YouTube, har infört eller testat system för att märka och begränsa AI-genererat innehåll.

Att TikTok nu väljer att använda AI mot AI, det vill säga använda maskininlärning för att identifiera just maskinskapat innehåll, speglar en bredare trend i branschen. Manuell granskning räcker inte längre till i den skala som moderna plattformar opererar.

Testet pågår för närvarande bland ett begränsat antal frivilliga kreatörer i USA, och TikTok har inte kommunicerat när eller om verktyget planeras att rullas ut bredare.