Interna konflikter på Anthropic och OpenAI efter chefernas löften om extern granskning

Anställda på AI-bolagen Anthropic och OpenAI reagerar med oro efter att bolagens chefer offentligt uttalat sig för att ge utomstående granskare full tillgång till tekniken. Det rapporterar Financial Times med hänvisning till källor inom företagen.

Anställda tagna på sängen av chefernas utspel

Konflikten uppstod efter att Anthropics vd Dario Amodei och OpenAIs vd Sam Altman på lördagen uttalade sig om AI-risker och förespråkade extern insyn. Enligt Financial Times uppger källor att de anställda blev totalt överraskade av uttalandena, som tycks ha kommit utan intern förankring.

Reaktionerna internt är delade. En del anställda välkomnar ökad transparens, medan andra anser att cheferna gick för långt i sina löften.

Läckagerisk och konkurrensoro driver motståndet

Kärnan i kritiken handlar om vad en fullständig extern tillgång faktiskt innebär i praktiken. Anställda uppger till Financial Times att de fruktar att det arbete de lagt ner riskerar att läcka ut om utomstående granskare ges samma tillgångsnivå som de själva har.

Oron rör två separata problem: dels säkerhetsrisker kopplade till känslig teknik, dels risken att konkurrenter får insyn i proprietär forskning och kod. Källorna menar att detta kan äventyra bolagens konkurrenskraft och de anställdas eget arbete.

Spänningen speglar en bredare debatt inom AI-branschen om hur mycket insyn som är rimlig. Å ena sidan driver regeringar och säkerhetsforskare på för oberoende revision av de mest kraftfulla AI-systemen. Å andra sidan värnar bolagen om affärshemligheter och tekniska försprång i en hårt konkurrensutsatt sektor.

Hur Anthropic och OpenAI hanterar den interna oenigheten, och om chefernas uttalanden leder till faktiska åtaganden gentemot externa granskare, återstår att se.