Newsom beordrar utredning om nödbroms för avancerad AI i Kalifornien

Federal passivitet driver Kalifornien att agera

Newsoms beslut kommer i ett läge där den federala nivån väljer att inte reglera AI. Flera toppchefer för amerikanska AI-bolag har under veckan vädjat om reglering, men fått avslag av president Donald Trump.

– Den federala regeringens totala misslyckande med att införa någon som helst meningsfull tillsyn eller ansvarsutkrävande borde oroa alla amerikaner, särskilt när AI-bolagens vd:ar själva vädjar om reglering, skriver Newsom i ett uttalande enligt AFP.

Att branschens egna ledare efterfrågar reglering utan att få gehör från Washington ger Newsom politisk tyngd att agera på delstatsnivå.

Vad en nödbroms för AI skulle innebära

En "kill switch" innebär i praktiken en mekanism för att snabbt kunna stänga ned eller begränsa de mest kraftfulla AI-systemen om de bedöms utgöra en risk. Den exekutiva ordern beordrar en utredning av hur en sådan funktion tekniskt och juridiskt skulle kunna genomföras i Kalifornien.

Delstaten är sedan tidigare ett globalt centrum för AI-utveckling, med bolag som OpenAI, Google DeepMind och Anthropic verksamma där. En reglering på delstatsnivå skulle därmed få direkt påverkan på en stor del av världens ledande AI-forskning och produktutveckling.

Utredningens resultat väntas ligga till grund för eventuell lagstiftning, men något konkret lagförslag har ännu inte presenterats.