Minnesmästaren Jonas von Essen: minst 10 procents risk att AI utrotar mänskligheten inom tio år

En superintelligens som tänker 3 000 år på en dag

Von Essen grundar sin oro i vad han beskriver som en underskattning av vad extrem intelligens faktiskt kan åstadkomma. En AI som tänker en miljon gånger snabbare än en människa opererar i en helt annan tidsskala än vi.

– Det är lätt att underskatta vad intelligens kan göra. Men om man har en superintelligens som kan tänka en miljon gånger snabbare än en människa, då motsvarar en enda dag 3 000 år av mänskligt tänkande, säger Jonas von Essen till Dagens ETC.

Det innebär att en sådan AI på kort tid kan utveckla strategier, lösningar och förmågor som mänskligheten inte hinner förutse eller motverka.

Från AI-entusiast till djupt oroad

Von Essen beskriver sig själv som någon som egentligen älskar AI-tekniken. Men efter att systematiskt ha läst allt han kommit över i ämnet föll han in i en depression, enligt Dagens ETC.

Slutsatsen han drog är att tekniken måste regleras, och det snabbt. Han tillhör därmed en växande grupp av personer med teknisk och vetenskaplig bakgrund som argumenterar för hårdare styrning av AI-utvecklingen innan systemen når en nivå där de inte längre går att kontrollera.

Von Essen är känd som en av Sveriges främsta minnesmästare och har även arbetat som entreprenör. Hans utspel väcker uppmärksamhet eftersom han inte tillhör den krets av akademiska AI-säkerhetsforskare som vanligtvis för den här typen av resonemang, utan kommer från ett annat håll med en bred allmänhet som följer honom.

Debatten om AI-risker och reglering intensifieras globalt, och flera länder, bland annat EU-medlemsstaterna, har börjat lagstifta om AI-användning. Hur snabbt och hur långtgående den regleringen blir återstår att se.