OpenAI sparkar tre anställda efter läcka av känslig information

Alignment-forskare bland de avskedad

Två av de tre som lämnar bolaget arbetade med alignment, det vill säga arbetet med att säkerställa att AI-modeller beter sig i enlighet med utvecklarnas intentioner. Det är ett av de mest känsliga och strategiskt viktiga områdena inom OpenAI, där forskning och metoder kan ge konkurrensfördelar men också beröra kritiska säkerhetsfrågor.

Att just alignment-personal är inblandad gör incidenten extra känslig. Alignment-forskning handlar i grunden om att kontrollera och styra kraftfulla AI-system, och information från det området kan vara värdefull för aktörer som vill förstå hur ledande AI-bolag hanterar sina modellers beteende.

Säkerhetsincidenter hopar sig för OpenAI

Avskedningarna sker i ett läge där OpenAI hanterar flera säkerhetsrelaterade problem samtidigt. Bolaget har nyligen stoppat lanseringen av modellen GPT-6.1 Astra, uppger Wall Street Journal, med hänvisning till säkerhetsskäl.

Sammantaget målar händelserna upp en bild av ett bolag under press, där interna säkerhetsrutiner sätts på prov i takt med att tekniken och organisationen skalas upp snabbt. OpenAI har tidigare fått kritik från tidigare anställda för hur bolaget hanterar säkerhetsfrågor internt.

Bolaget har ännu inte offentligt kommenterat avskedningarna eller specificerat vilken information som delades, eller med vilket AI-säkerhetsinstitut den ska ha hamnat.