Forskare splittrade om AI-katastrof: tre Chalmersprofessorer bedömer risken till 60–80 procent

Hur definieras mänsklighetens undergång i enkäten?

Enkäten utgår från det som i AI-säkerhetsvärlden kallas p(doom). Det är sannolikheten för att avancerad AI före 2050 orsakar mänsklighetens utrotning, eller en jämförbar permanent och allvarlig förlust av mänsklig kontroll över framtiden.

Definitionen användes när forskarna och experterna skulle uppskatta risken.

Vilka bedömer risken som högst?

De mest pessimistiska svaren kommer från tre matematikprofessorer vid Chalmers i Göteborg. De bedömer att risken ligger mellan 60 och 80 procent.

Bland dem som har svarat finns Olle Häggström, professor i matematisk statistik vid Chalmers, och Moa Johansson, professor i data- och informationsteknik vid Chalmers, enligt Svenska Dagbladet.

Vad säger de som är mer optimistiska?

Andra tillfrågade menar att risken är låg. De anser att beläggen för en AI-katastrof är mycket svaga.

En tredje grupp hävdar att kunskapen är alldeles för begränsad för att det ska gå att göra en uppskattning över huvud taget.

Enkäten visar därmed tre huvudsakliga hållningar i den nordiska forskarvärlden: hög risk, låg risk och att frågan inte går att bedöma.