Anställda på OpenAI och Anthropic kräver internationell kontroll av AI-utvecklingen

Anställda på OpenAI och Anthropic har startat en namninsamling som uppmanar den amerikanska regeringen att stödja ett internationellt initiativ för att reglera takten i AI-utvecklingen. Uppropet väntas bli offentligt redan denna vecka, rapporterar Bloomberg med hänvisning till källor.

Varningen: AI kan utvecklas snabbare än människor kan kontrollera

Initiativet kommer inifrån två av världens mest inflytelserika AI-bolag. Dokumentet som Bloomberg tagit del av slår fast att det finns en verklig risk att AI-system utvecklas snabbare än vad människor kan förstå eller kontrollera.

Namninsamlingen riktar sig direkt till den amerikanska regeringen och uppmanar den att ställa sig bakom ett internationellt ramverk som vid behov ska kunna bromsa eller styra takten i utvecklingen av mer avancerade AI-system. Exakt hur ett sådant initiativ skulle utformas framgår inte av de uppgifter Bloomberg publicerat.

Uppropet kommer i skuggan av säkerhetsincident

Timingen är anmärkningsvärd. Bara dagarna innan namninsamlingen blev känd avslöjades att OpenAI, företaget bakom ChatGPT, av misstag hade hackat startup-bolaget Hugging Faces interna system, något som satte fokus på de risker som följer med snabb AI-expansion.

Att anställda på bolagen själva nu tar initiativ till extern reglering är ovanligt i en bransch som länge värnat om självbestämmande. Det signalerar en växande intern oro bland de som arbetar närmast tekniken.

Uppropet förväntas publiceras öppet under veckan, och det återstår att se hur brett stöd det samlar bland anställda på de två bolagen.