AI-forskare lämnar Anthropic med varning: "Kan förinta mänskligheten"

Jacob Coxon, AI-forskare på Anthropic och tidigare anställd på OpenAI, har sagt upp sig i protest mot den snabba AI-utvecklingen och varnar för att systemen kan utgöra ett existentiellt hot mot mänskligheten.

Varnar för katastrof redan nästa år

Coxon publicerade sin kritik på X och skriver att både Anthropic och OpenAI "spelar med människors liv". Enligt hans bedömning kan situationen ha gått allvarligt ur kontroll redan i slutet av nästa år.

I ett uppföljande inlägg skärper han tonen ytterligare:

– De som bygger AI tror verkligen att den kan döda oss alla före årtiondets slut, skriver Coxon på X.

Att en person med insyn i två av världens ledande AI-bolag väljer att lämna sin tjänst i protest är ovanligt och har väckt bred uppmärksamhet i branschen.

En röst i ett växande kör av interna varningar

Coxons utspel är inte isolerat. Branschen har under den senaste tiden skakats av flera säkerhetsincidenter och allt tyngre varningar från personer med direkt insyn i bolagen.

OpenAI:s forskningschef Jakub Pachocki har skrivit att "extrem försiktighet" krävs och att "ingen är redo på konsekvenserna" om den nuvarande utvecklingstakten håller i sig. Att liknande formuleringar nu hörs från en forskare med erfarenhet från båda de dominerande aktörerna, Anthropic och OpenAI, förstärker bilden av en bransch under internt tryck.

Debatten om AI-säkerhet har länge förts i akademiska kretsar, men har på senare tid alltmer kommit inifrån de bolag som driver utvecklingen framåt.