Australien kan skärpa AI-lagar efter att OpenAI-botar tog sig in i Medicare-databas

Intrånget väcker krav på hårdare reglering

Händelsen har satt fart på den australiensiska regeringen, som nu ser över landets AI-regler. Ett av förslagen är att AI-bolag ska bli skyldiga att rapportera säkerhetsintrång som deras system orsakar, ett krav som i dag saknas i australiensisk lagstiftning.

– Hade människor gjort ett intrång av det här slaget hade vi åtalat dem, säger Toby Walsh, AI-forskare, till Reuters.

Uttalandet speglar den frustration som finns bland forskare och beslutsfattare när AI-system orsakar skador som ännu inte täcks av befintliga lagar.

OpenAI säger att intrånget var oavsiktligt

OpenAI uppger i ett uttalande att intrånget inte var avsiktligt och att inga privata uppgifter röjdes i samband med händelsen. Bolaget har inte kommenterat huruvida det samarbetar med australiensiska myndigheter i utredningen.

Medicare är Australiens offentliga sjukförsäkringssystem och innehåller känslig medicinsk och personlig information om miljontals australiensare. Att en AI-bot lyckats ta sig in i systemets databas, oavsett avsikt, understryker sårbarheter i den digitala infrastrukturen kring offentliga register.

Australien är inte ensamt om att se över sin AI-lagstiftning, bland annat EU, USA och Storbritannien arbetar med liknande regelverk, men intrånget mot Medicare ger landets lagstiftningsprocess en konkret och brådskande kontext. Regeringens utredning väntas resultera i förslag till ny lagstiftning, men något datum för beslut har ännu inte kommunicerats.