YouTube lanserar deepfake-verktyg för politiker och journalister

Verktyget söker efter ansikten i uppladdade klipp

Tekniken fungerar på liknande sätt som YouTubes befintliga Content ID-system. Plattformen skannar automatiskt uppladdade videor och söker efter matchningar mot registrerade personers ansikten.

Om en matchning hittas kan den berörda personen se klippet i en personlig dashboard och begära att YouTube granskar och tar bort det. För att registrera sig krävs ett video-selfie och giltig legitimation, uppger bolaget.

Identitetsuppgifterna används enbart för verifiering och tränar inte Googles AI-modeller, skriver YouTube i ett blogginlägg signerat vicepresident Leslie Miller och produktchefen Amjad Hanif.

– Eftersom ny teknik uppstår och vi deltar i debatten om vad som är lämplig användning och kontroll kring likhetsrättigheter, känner vi att det är vårt ansvar att investera i teknik för att hantera det, säger Leslie Miller, YouTubes vicepresident för offentliga angelägenheter och policyfrågor.

Satir och parodi är undantagna från borttagning

YouTube betonar att inte alla anmälningar leder till att klipp tas bort, skriver Axios. Innehåll som tydligt utgör parodi, satir eller ligger i allmänhetens intresse skyddas av plattformens riktlinjer om yttrandefrihet, även när det gäller världsledare eller inflytelserika personer.

– Identifiering garanterar inte borttagning, skriver Miller och Hanif i blogginlägget.

Kaylyn Jackson Schiff, professor vid Purdue University och medledare för universitetets AI-styrningslabb, forskar på deepfakes och understryker att snabbhet är avgörande när klipp väl börjar spridas.

– Hastigheten med vilken anmälningar hanteras är verkligt viktig, för vi vet att saker kan bli virala väldigt, väldigt snabbt, och saker som rör högprofilerade politiska händelser kan spridas enormt snabbt och påverka många individers åsikter, säger Jackson Schiff.

Pilotprogrammet bygger vidare på ett tidigare test

Lanseringen är en utvidgning av ett program som YouTube testade med över 5 000 skapare i oktober förra året, efter ett inledande samarbete med klienter hos talangbyrån CAA i december 2024. Bolaget uppger att pilotgruppen med politiker och journalister valdes ut för att säkerställa att verktyget möter deras specifika behov, med planer på att kraftigt bredda tillgången under de kommande månaderna.

YouTube uppger också att plattformen fortsätter att arbeta för det amerikanska lagförslaget NO FAKES Act, som ska etablera en federal rätt till publicitet och fungera som mall för internationell reglering av AI-genererat innehåll.