Anthropic varnar för att AI kan gå ur kontroll och vill bromsa utvecklingen

Människans roll krymper för varje steg

Det är Anthropic, företaget bakom chattboten Claude, som nu går ut med en skarp varning om riktningen för AI-utvecklingen. I en ny rapport skriver företaget att tecken finns på att människans roll minskar för varje steg i utvecklingsprocessen.

Varningen är ovanlig eftersom den kommer från ett av världens ledande AI-företag, inte från en extern kritiker. Anthropic befinner sig alltså i den ovanliga positionen att själva driva tekniken framåt, samtidigt som de nu ropar på bromsen.

– Det finns tecken som tyder på att människans roll minskar för varje steg i utvecklingsprocessen för AI, skriver företaget i rapporten, enligt TT.

Kräver gemensamt branschbeslut

Anthropic understryker att en enskild aktörs återhållsamhet inte räcker. Ett gemensamt beslut från hela branschen krävs för att en eventuell inbromsning ska få någon reell effekt, menar företaget.

Enligt AP planerar Anthropic ett möte där forskare, regeringstjänstemän och andra teknikföretag bjuds in för att diskutera AI-säkerhet. Mötet är tänkt att samla centrala aktörer kring frågan om hur utvecklingen kan hanteras på ett kontrollerat sätt.

Uppropet från Anthropic sätter press på konkurrenter som OpenAI, Google DeepMind och Meta, som alla driver på i kapplöpningen om allt kraftfullare AI-system. Hur branschen svarar på initiativet återstår att se.