AI-modell från Anthropic hittade sårbarheter i USA:s hemliga it-system

Modellen tog sig in i "nästan alla" hemliga system

Uppgifterna verkar röra samma tester som senator Mark Warner lyfte under en kongress-utfrågning den 11 juni. Warner uppgav då att AI-modellen Mythos hade penetrerat "nästan alla" hemliga system på "bara några timmar", med hänvisning till information från Joshua Rudd, chef för den amerikanska signalspaningsmyndigheten NSA.

– Den tog sig in i nästan alla hemliga system på bara några timmar, citerade Warner enligt uppgifter som AP rapporterar.

Uttalandet väckte omedelbar uppmärksamhet, men källor som New York Times talat med tonar ner beskrivningen. De betonar att det rörde sig om kontrollerade tester i en strikt avgränsad miljö, inte ett faktiskt intrång.

Testerna genomfördes inom ramen för Project Glasswing

Bakgrunden är ett samarbetsprogram kallat "Project Glasswing", där techbolag och andra aktörer arbetar tillsammans för att skydda kritisk infrastruktur mot hot från kraftfull AI, enligt AP.

Syftet med testerna är alltså att identifiera svagheter innan en verklig angripare gör det, inte att visa att systemen är komprometterade. Att en AI-modell lyckas hitta sårbarheter i en kontrollerad miljö är en del av den typen av säkerhetsarbete.

Anthropic, bolaget bakom AI-modellen Claude, har inte kommenterat uppgifterna offentligt. Det är oklart om Mythos är ett internt kodnamn för en av Anthropics befintliga modeller eller ett separat system utvecklat för ändamålet.

Händelsen understryker den snabbt växande debatten i Washington om hur kraftfull AI kan användas, både som skydd och som potentiellt vapen, mot statlig infrastruktur. Kongressen väntas fortsätta granska frågan under sommaren.