AI-chatbot pekade ut fartyg som kärnvapenhot, nära att utlösa konflikt

Det framgår av en intern underrättelserapport som CNN tagit del av.

Nära att starta krig under pågående Iran-konflikt

Händelsen inträffade i våras, samtidigt som USA befann sig i aktivt krig mot Iran. Den amerikanska militären hade dragit slutsatsen att ett kinesiskt fartyg i Mellanöstern transporterade komponenter till ett kärnvapenprogram och förberedde sig för att borda det.

Det var först efter en förnyad granskning av underlagsmaterialet som ursprunget avslöjades, nämligen en AI-chatbot som konstruerat uppgifterna. Informationen visade sig vara helt falsk.

– Det startade nästan ett krig, säger källan till CNN.

Det geografiska och tidsmässiga läget förstärkte riskerna. En felaktig bordning av ett kinesiskt fartyg under en redan pågående regional konflikt hade kunnat få svåröverskådliga diplomatiska och militära konsekvenser.

Militären bygger ut sitt AI-beroende

Den amerikanska militären har på senare tid infört ett växande antal AI-verktyg i den dagliga verksamheten, enligt CNN. Tekniken används bland annat för att analysera stora datamängder och för att identifiera mål inför exempelvis flyganfall.

Incidenten belyser en strukturell sårbarhet i det ökade AI-beroendet. När AI-genererat innehåll integreras i underrättelseflöden utan tillräcklig källkritisk kontroll riskerar felaktiga slutsatser att nå beslutsfattare på hög nivå.

Hur den interna granskningen av rutinerna fortskrider efter händelsen framgår inte av den rapport som CNN tagit del av.