Anthropic uppger att bolaget stoppat ryska spioner och kinesisk säkerhetstjänst från att missbruka AI

Anthropic säger sig ha blockerat ett flertal försök från statliga aktörer och vapentillverkare att utnyttja bolagets AI-modeller för farliga ändamål. Det framgår av en ny rapport från teknikbolaget, som rapporteras av Politico.

Statliga aktörer och vapentillverkare pekades ut

Bland de aktörer Anthropic identifierat finns rysskopplade spioner, kinesisk säkerhetstjänst och Jemenbaserade vapentillverkare. Enligt rapporten har grupperna försökt använda AI:n för att genomföra attacker eller utveckla vapen som tidigare legat utanför deras förmåga.

Bolaget uppger också att det under innevarande år identifierat fem fall där forskare från icke namngivna länder använt AI-modellerna för att efterforska farliga ämnen, potentiellt i syfte att framställa biologiska vapen.

Säkerhetsvarningar sammanfaller med kapitalanskaffning

Rapporten möter viss skepsis. SvD:s techredaktör Björn Jeffery påpekar att Anthropic tidigare upprepade gånger varnat för AI-risker, för att kort därefter ta in hundratals miljoner dollar i riskkapital.

– Anthropic har ropat varg flera gånger tidigare för att strax därefter ta in hundratals miljoner dollar i riskkapital, säger Björn Jeffery, techredaktör på Svenska Dagbladet.

Bolaget kan med andra ord ha ett egenintresse av att framstå som säkerhetsmedvetet, eftersom en sådan profil stärker förtroendet hos investerare och regulatorer. Anthropic är ett av de mest kapitalkrävande AI-bolagen i världen och konkurrerar direkt med OpenAI och Google Deepmind om både talang och finansiering.

Rapporten publiceras i ett läge där debatten om AI-säkerhet intensifieras globalt, och flera regeringar, bland annat i EU och USA, arbetar aktivt med regelverk för att begränsa riskerna med avancerade AI-system.