Anthropics vd kräver hårdare AI-lagar, inklusive rätt att stoppa farliga modeller

Regeringar ska kunna stoppa farliga AI-modeller

Amodeis förslag är långtgående. Han vill att regeringar ska ges befogenhet att stoppa AI-modeller som bedöms vara farliga, och att obligatorisk risktest­ning införs på kort sikt.

Testerna skulle särskilt fokusera på risker kopplade till cyberattacker och utveckling av biologiska vapen. Förslagen går, enligt Axios, betydligt längre än något som för närvarande diskuteras i Washington.

– Vi behöver lagstiftning som faktiskt matchar de risker tekniken medför, är budskapet Amodei för fram i texten.

Förslaget väcker frågor om Anthropics egna intressen

Amodeis ställningstagande är inte okontroversiellt. Texten väntas ge nytt bränsle åt återkommande anklagelser mot Anthropic, nämligen att bolaget medvetet målar upp skrämmande framtidsscenarier för att driva igenom regleringar som gynnar det egna bolagets ställning på AI-marknaden.

Kritiken, som rapporteras av Axios, handlar om att strikta regler kan vara svårare att uppfylla för mindre aktörer och nykomlingar, medan etablerade bolag som Anthropic redan har resurser att möta höga krav. Det är ett mönster som brukar kallas "regulatory capture" inom policydebatter om tekniksektorn.

Anthropic grundades 2021 av tidigare anställda från OpenAI och har vuxit till en av de tongivande aktörerna inom så kallad ansvarsfull AI-utveckling. Bolaget ligger bakom AI-assistenten Claude.

Hur Amodeis förslag tas emot i Washington, och om de kommer att påverka den pågående politiska debatten om AI-reglering i USA, återstår att se.