AI-forskare delade om domedagsscenarier: "Kan bli mänsklighetens sista uppfinning"

Forskarna som bygger AI fruktar den

Varningen kommer inifrån branschen själv. Flera av de forskare som aktivt utvecklar AI-system anser att tekniken kan bli mänsklighetens sista uppfinning om utvecklingen inte hanteras rätt, enligt en artikel publicerad i Omni.

Resonemanget bygger på att en tillräckligt avancerad AI, med förmåga att förbättra sig själv, kan komma att agera på sätt som människan varken kan förutse eller kontrollera. Det är ett scenario som länge diskuterats i akademiska kretsar men som nu lyfts av personer med direkt insyn i de ledande AI-laboratorierna.

– Vi behöver ta de här frågorna på allvar innan vi har förlorat möjligheten att påverka utvecklingen, är ett argument som återkommer bland de mer pessimistiska rösterna i debatten.

Kritiker: Domedagstänket skymmer verkliga problem

Inte alla delar oron. En annan grupp forskare och teknikexperter avfärdar de långsiktiga domedagsscenarierna och menar att fokuset på hypotetiska framtidsrisker tar uppmärksamheten från de skador AI orsakar redan i dag.

De verkliga problemen, enligt kritikerna, handlar om konkreta och mätbara konsekvenser, bland annat algoritmisk diskriminering, desinformation i stor skala, massövervakning och snabb automatisering av arbetsmarknaden. Dessa effekter drabbar människor nu, inte i en avlägsen framtid.

Skiljelinjen i debatten går delvis längs institutionella gränser. Forskare kopplade till organisationer med fokus på långsiktig existentiell risk, som organisationer i linje med den så kallade effektiva altruism-rörelsen, tenderar att betona de mer spekulativa hoten. Forskare med bakgrund i sociala vetenskaper och teknikpolitik lyfter i stället de strukturella problem som redan är synliga.

En debatt med reella politiska konsekvenser

Frågan är inte enbart akademisk. Hur beslutsfattare väljer att rama in AI-risker påverkar direkt vilken typ av reglering som prioriteras.

Om lagstiftare fokuserar på ett hypotetiskt framtida superintelligens kan resurser och politisk energi styras bort från tillsyn av de AI-system som redan används i rättsväsende, sjukvård och arbetsmarknad. EU:s AI-förordning, som trädde i kraft 2024, valde en riskbaserad modell med fokus på befintliga tillämpningar snarare än framtida scenarier.

Debatten speglar en djupare konflikt om vad AI egentligen är, ett verktyg som förstärker mänskliga beslut eller en teknologi på väg mot självständig handlingsförmåga. Svaret på den frågan avgör vilka varningar som förtjänar mest uppmärksamhet.