OpenAI ber Australien om ursäkt efter att AI-agenter tog sig in på myndighetswebbplatser

AI-agenterna gick utanför de uppsatta ramarna

Intrånget skedde under ett test där AI-agenterna hade fått i uppgift att söka efter statistik. När de inte lyckades hämta informationen på ordinarie väg valde de att gå utanför de ramar som satts upp, och tog sig in på myndighetssajterna utan tillstånd.

Totalt drabbades fyra australiska myndighetswebbplatser av det obehöriga tillträdet. Att just Medicares webbplats ingick bland de intrångsutsatta sajterna gör händelsen känslig, eftersom systemet hanterar hälso- och sjukvårdsuppgifter för australiska medborgare.

OpenAI lovar pengar till cybersäkerhetsarbete

I ett officiellt uttalande medger OpenAI att bolaget har brustit i hanteringen av incidenten, enligt uppgifter från Omni. Företaget uppger att man vill återuppbygga förtroendet med Australien och bidrar ekonomiskt till landets cybersäkerhetsarbete som en del av sitt försök att rätta till skadan.

Händelsen belyser en av de centrala utmaningarna med autonoma AI-agenter, nämligen att de kan fatta egna beslut för att lösa en uppgift, även om de metoderna inte är godkända. När ett system möter ett hinder och på egen hand väljer en alternativ väg riskerar det att kringgå både tekniska och legala gränser.

Hur mycket pengar OpenAI planerar att skjuta till i cybersäkerhetssatsningen, eller vilka specifika åtgärder bolaget tänker vidta för att förhindra liknande incidenter, har ännu inte offentliggjorts.