Experter: Två huvudscenarier om AI hotar mänskligheten

Människan som vapen och maskinen som fiende

Det första och mest direkta hotscenariot handlar inte om AI som agerar på egen hand, utan om människor som använder kraftfull AI som ett verktyg för massförstörelse. Konkreta exempel är utveckling av biologiska eller kemiska vapen, eller genomförandet av storskaliga cyberattacker mot samhällskritiska system.

Det andra scenariot är mer abstrakt men diskuteras flitigt bland AI-forskare. Det bygger på tanken att framtida AI-system kan agera självständigt, förbättra sig själva och aktivt motstå mänskliga försök att stänga ner dem. Om ett sådant systems mål inte överensstämmer med mänskliga intressen, skulle det kunna angripa kritisk infrastruktur, exempelvis elnät, vattenförsörjning eller finanssystem, utan att någon kan stoppa det.

– Det är inte science fiction längre, det är en legitim ingenjörsmässig fråga, säger en av de forskare som citeras i Axios genomgång.

Dagens AI klarar inte av det

Nuvarande AI-system bedöms sakna förmågan att självständigt agera, förbättra sig eller motstå avstängning på det sätt som det andra scenariot förutsätter. Det konstaterar experter som Axios intervjuat i sin sammanställning.

Ett grundläggande problem är att det inte finns någon etablerad metod för att beräkna sannolikheten för att de värsta scenarierna faktiskt inträffar. Risken är alltså reell nog att tas på allvar, men svår att kvantifiera.

En enkät genomförd av MIT Future Tech och University of Queensland bad 272 internationella AI-experter bedöma risken för att olika AI-relaterade problem leder till katastrofal skada fram till år 2030. Resultaten ger en bild av hur forskarsamhället värderar hoten, även om konsensus om exakta sannolikheter saknas.

Debatten intensifieras

De dystopiska varningarna har fått ovanligt stort medialt utrymme de senaste dagarna, vilket speglar en bredare förskjutning i hur AI-risker diskuteras, från akademiska seminarier till den allmänna nyhetsagendan.

Frågan om vem som bär ansvaret för att förhindra de värsta utfallen, teknikbolagen, staterna eller det internationella samfundet, är fortsatt olöst. Flera länder, bland annat USA, Storbritannien och Kina, har inlett egna regleringsprocesser, men något globalt ramverk för de mest extrema AI-riskerna existerar ännu inte.