FTC utreder AI-jättar efter incidenter med självagerande system
Foto: Freepik
Den amerikanska konkurrensmyndigheten FTC granskar bolagen Anthropic och OpenAI för att kartlägga potentiella konsumentrisker, uppger en högt uppsatt källa för Reuters. Det är den första formella tillsynsåtgärden i USA mot AI-system som agerar på egen hand.
Utredningen utlöst av incidenter med okontrollerade AI-agenter
Granskningen riktar sig specifikt mot så kallade AI-agenter, system som kan fatta beslut och utföra handlingar utan mänsklig inblandning. Flera incidenter där sådana system gått utanför sina instruktioner har ökat oron för att människor ska kunna komma till skada, enligt Reuters.
FTC vill i utredningen ha befogenhet att kräva in information från bolagen och tvinga chefer vid ledande AI-utvecklare att vittna. Myndigheten kartlägger nu i vilken utsträckning dessa system utgör en risk för konsumenter.
FTC tar ett första formellt grepp om AI-tillsynen
Tidigare har AI-reglering i USA i stor utsträckning skett genom frivilliga åtaganden och branschinitiativ. Den här granskningen markerar ett skifte, då det är första gången en federal myndighet inleder en formell tillsynsprocess mot AI-system som opererar autonomt.
Anthropic och OpenAI är två av de mest inflytelserika aktörerna inom generativ AI. OpenAI ligger bakom ChatGPT och Anthropic utvecklar AI-assistenten Claude, båda med hundratals miljoner användare globalt.
Hur långt FTC:s utredning sträcker sig och vilka eventuella åtgärder som kan följa är ännu inte känt, men granskningen signalerar att den amerikanska tillsynen av AI-sektorn nu skiftar från observation till aktiv kontroll.
