Bank of England kallar till krismöte om AI som kan hacka sig in i världens system

Modellen hittar sårbarheter på sekunder

Claude Mythos är en AI-modell med fokus på cybersäkerhet, och det är dess förmåga att identifiera och utnyttja säkerhetsluckor som väcker oro. Modellen ska kunna hitta och exploatera brister i alla stora operativsystem och webbläsare, inklusive så kallade dagnollsårbarheter, det vill säga svagheter som ännu inte är kända och därmed inte åtgärdade.

– Tidsfristen för att hitta och fixa sårbarheter krymper från dagar, månader och år till sekunder, minuter och timmar, säger Ciaran Martin, Storbritanniens tidigare cybersäkerhetschef.

Anthropic uppger att modellen bland annat hittade en 27 år gammal bugg i kritisk programvara. Bolaget har därför valt att inte släppa modellen publikt, utan i stället låta ett konsortium av över 40 techbolag, bland annat Apple, Amazon och Microsoft, testa den internt för att hinna åtgärda de brister som hittas.

Krismöten på båda sidor Atlanten

Oron är inte begränsad till Storbritannien. USA:s finansminister Scott Bessent och Fed-chefen Jerome Powell höll under veckan ett brådskande möte med Wall Street-bankchefer, enligt uppgifter från Bloomberg. Trumpadministrationen ska nu uppmana storbankerna att testa modellen internt för att identifiera finansiella systemsårbarheter.

Svenska cybersäkerhetsexperter beskriver tekniken som ett skifte utan motstycke. Robert Malmgren, som driver konsultfirman Romab och arbetat med AI i säkerhetsarbete i flera år, använder ordet "kvantsprång" för att beskriva vad Mythos kan representera.

– Ändå sedan 2010 och "Stuxnet" har it använts som ett kraftfullt vapen i konflikter. Se bara på Iran, där angripare har kunnat ta över trafikkameror för att följa landets ledare i realtid. Utvecklingen av den här tekniken kommer inte att stanna av, säger Malmgren.

Åsa Schwarz, strategiansvarig hos Knowit Cybersecurity & Law, pekar på att hela branschen nu tvingas ställa om i snabb takt.

– Det pågår en kapprustning i branschen just nu. Vi måste bli extremt snabba och jobba mer datadrivet för att kunna hålla koll på alla nya sårbarheter som nya AI-system kan upptäcka i en hastighet som aldrig har setts tidigare, säger Schwarz.

Geopolitiska dimensioner oroar experterna

Utöver de finansiella riskerna lyfter svenska experter frågan om Claude Mythos kan bli ett geopolitiskt maktmedel. Om tekniken hamnar i fel händer, eller används selektivt av en stat, kan den ge ett asymmetriskt övertag i cyberkonfliker, skriver Ny Teknik.

Anthropics plan att låta amerikanska techbolag som Apple, Google och Microsoft ta del av modellen innan någon annan har fått kritik för att koncentrera tekniken till en liten krets aktörer med starka band till USA:s regering och näringsliv. Hur bred testgruppen slutligen blir, och när eller om en publik version av Claude Mythos kan bli aktuell, är ännu oklart.