Anthropics nya AI-modell Mythos ska hjälpa techjättar att hitta säkerhetshål
Foto: Freepik
Anthropic lanserar projekt Glasswing, där AI-modellen Claude Mythos Preview används för att söka igenom kritisk programvara efter säkerhetsbrister. Bland de deltagande bolagen finns Amazon, Apple, Microsoft, Nvidia och Crowdstrike.
Modellen har redan hittat tusentals allvarliga sårbarheter
Bakgrunden till projektet är oroande. Enligt Anthropic har Claude Mythos Preview redan identifierat tusentals allvarliga säkerhetshål, däribland brister i samtliga stora operativsystem och webbläsare.
Anthropic beskriver modellens kapacitet som ett vägskäl för cybersäkerheten. AI-modeller har nu nått en nivå där de överträffar nästan alla människor när det gäller att hitta och utnyttja programvarubuggar, skriver bolaget på sin webbplats. Det gör tekniken lika värdefull för angripare som för försvarare.
Projektet är ett direkt svar på den oro som växer inom branschen, att mer avancerade AI-modeller ska kunna användas för att hacka sig in i system och orsaka skada i stor skala. Anthropic vill hinna före genom att rikta samma förmåga mot defensivt säkerhetsarbete.
Över 40 organisationer får tillgång till modellen
Utöver de namngivna techjättarna har Anthropic gett tillgång till mer än 40 ytterligare organisationer som bygger eller underhåller kritisk programvaruinfrastruktur. De får använda Mythos Preview för att skanna och säkra både egna system och öppen källkod.
Anthropic avsätter upp till 100 miljoner dollar i användningskrediter för modellen inom ramen för projektet. Därutöver doneras 4 miljoner dollar direkt till organisationer som arbetar med säkerhet i öppen källkod, enligt bolagets webbplats.
Det som lärt sig inom projektet ska delas med hela branschen, inte stanna hos de enskilda bolagen. Projektet Glasswing är inte planerat att öppnas för allmänheten i nuläget, rapporterar Bloomberg.
Anthropic betonar att ingen enskild aktör kan lösa cybersäkerhetsproblemen ensam, och att arbetet kräver samverkan mellan AI-utvecklare, säkerhetsforskare, myndigheter och regeringar världen över. Mot bakgrund av att AI-förmågorna väntas öka kraftigt redan under de närmaste månaderna beskriver bolaget projektet som ett brådskande initiativ, där försvararna måste agera nu för att inte halka efter.
