Miljontals har sett AI-fabricerade krigsbilder från Iran-konflikten

Falska klipp täcker hela konflikten

New York Times har kartlagt över 110 unika AI-genererade bilder och videor från de första två veckorna av kriget. Klippen skildrar skrikande israeler under missiltankar över Tel Aviv, iranier som sörjer döda anhöriga och amerikanska örlogsfartyg som bombas med torpeder och missiler, ingen av scenerna verklig.

Innehållet har samlat miljontals visningar på de stora plattformarna och spridits ytterligare via privata meddelandeappar i regionen. AP News rapporterar att falska AI-klipp även spridits av konton med kopplingar till den iranska regimen.

– Det som förut krävde professionell videoproduktion kan nu göras på några minuter med AI-verktyg. Tröskeln för att skapa övertygande syntetiska konfliktfilmer har i princip kollapsat, säger Timothy Graham, digital medieforskare vid Queensland University of Technology, till BBC Verify.

Sociala medier-analysföretaget Cyabra har i en genomgång av aktiviteten online konstaterat att majoriteten av AI-videorna om kriget driver pro-iranska budskap, ofta för att falskt framställa landets militära överlägsenhet.

Iran använder AI-bilder som informationsvapen

Experter beskriver det falska innehållet som en medveten del av Irans krigföring. Målet är att påverka opinionen i länder vars regeringar stödjer USA och Israel, genom att överdriva skadorna på allierade.

– Användningen av AI-bilder på förstörelse i Gulfländerna har blivit viktigare i Irans handlingsplan, säger Marc Owen Jones, lektor i medieanalys vid Northwestern University i Qatar.

– Det låter dem visa en bild av att det här kriget är mer destruktivt och mer kostsamt för USA:s allierade än vad det kanske egentligen är, säger Jones.

Hany Farid, professor i digital kriminalteknik vid University of California Berkeley, konstaterar att situationen skiljer sig fundamentalt från tidigare konflikter.

– För tio år sedan hade man kanske ett eller två falska klipp ute, de avslöjades rätt snabbt. Nu ser man hundratals av dem och de är väldigt realistiska, säger Farid till CNN.

En jämförelse med Rysslands invasion av Ukraina 2022 visar hur snabbt utvecklingen gått. Då dominerade grova förfalskningar, photoshoppade bilder och felmärkta spelklipp. Nu kompletteras de av högkvalitativa AI-videor som, enligt BBC Verify-journalisten Shayan Sardarizadeh, är svåra att avslöja för en ovan betraktare.

Plattformarna agerar olika snabbt

X har infört tillfälliga avstängningar från plattformens intäktsprogram för användare som lägger upp omärkta AI-videor av väpnade konflikter, skriver CNN. Systemet belönar normalt konton vars inlägg genererar stora mängder visningar och interaktioner med betalning.

– Det är en tydlig signal om att de sett att det här är ett stort problem, säger Mahsa Alimardani, Iranforskare vid Oxford Internet Institute, till BBC Verify.

TikTok och Meta, som äger Facebook och Instagram, svarade inte på BBC Verify:s frågor om de planerar liknande åtgärder. Problemet förvärras av att X:s AI-chatbot Grok i flera fall felaktigt bekräftat falska videors äkthet när användare frågat om dem.