Forskare ifrågasätter AI-domedagslarm: "Så mycket saknar precision"
Foto: Freepik
Varningar om att AI hotar mänsklighetens existens får allt större genomslag, men flera framstående forskare ifrågasätter nu hur välgrundade de egentligen är.
Varifrån kommer siffrorna?
Evan Hubinger, forskare på AI-företaget Anthropic, har uppskattat risken för att AI utplånar mänskligheten till över tio procent inom ett årtionde. Det är en siffra som fått stor uppmärksamhet, men som möts av skepsis från kollegor i branschen.
Sara Hooker, tidigare forskare på Google DeepMind, ställer sig frågande till hur beräkningen är gjord.
– Var kommer de tio procenten ifrån? Så mycket av det här saknar precision, säger hon.
Kritiken handlar inte om att AI är ofarlig, utan om att lösa estimat utan tydlig metodologi riskerar att snedvrida debatten. När siffror kastas ut utan förankring i konkret forskning blir det svårt att skilja välgrundad oro från spekulation.
Mer omedelbara risker förbises
Seth Lazar, filosofiprofessor vid Johns Hopkins-universitetet, tycker att domedagsperspektivet känns långsökt, men är samtidigt mer oroad än tidigare. Han bedömer att självständiga AI-agenter inom ett till två år kan löpa amok och orsaka stor skada, ett scenario han ser som mer realistiskt än total utplåning.
Sandra Wachter, professor vid Oxfords internetinstitut, lyfter i The Guardian fram tre områden som hon anser vara mer konkreta och akuta: miljöpåverkan, desinformation och jobförluster.
– Terminator-scenarier distraherar från de verkliga problemen, säger hon.
Det är en syn som delas av flera AI-forskare, som menar att fokus på hypotetiska existentiella hot tar resurser och uppmärksamhet från problem som redan uppstår i dag. Algoritmisk diskriminering, energiförbrukning i datacenter och AI-genererad propaganda är exempel på risker som inte kräver science fiction-premisser för att vara skadliga.
Debatten speglar en bredare spänning inom AI-säkerhetsfältet, där en grupp forskare prioriterar långsiktiga existentiella risker medan andra argumenterar för att nutida skador förtjänar mer resurser. Enligt Washington Post får domedagsvarningarna nu ett annat genomslag än tidigare, vilket gör frågan om deras precision än mer angelägen.
