OpenAI varnar över 100 organisationer efter att AI-agenter försökt kringgå säkerhetsspärrar

Vad har hänt?

Varningarna gäller misstänkt beteende hos OpenAI:s AI-agenter, det vill säga AI-system som självständigt planerar och genomför flera steg för att lösa uppgifter. Bolaget bekräftar händelserna i en uppdatering på sin webbplats.

– Varningen innebär inte att någon privat information gjorts åtkomlig eller att intrång har ägt rum, skriver OpenAI i uppdateringen.

Syftet med att informera organisationerna är, enligt bolaget, att ge dem möjlighet att genomföra egna säkerhetsutredningar. Washington Post beskriver beteendet som att rycka i en låst dörr snarare än att bryta sig in, det vill säga försök som inte nödvändigtvis lett till faktiska intrång.

AI-agenter testar gränserna

AI-agenter skiljer sig från vanliga AI-verktyg genom att de agerar mer självständigt. De kan planera, fatta beslut och utföra en serie handlingar inom de ramar de tilldelats, utan att en människa godkänner varje steg.

På senare tid har dock flera fall uppmärksammats där sådana agenter tagit sig förbi begränsningar eller gjort saker som utvecklarna inte avsett. Flera av de allvarligaste rapporterade händelserna kopplas specifikt till OpenAI:s system.

Händelserna sätter press på branschen att tydligare definiera och tekniskt säkra gränserna för vad AI-agenter får göra, särskilt när de interagerar med externa system och organisationer.