EU saknar tillgång till Anthropics farligaste AI-modell och personal för att hantera hotet
Foto: Freepik
EU:s AI-kontor har varken fått tillgång till Anthropics nya hacknings-AI Mythos eller de resurser som krävs för att hantera det cyberhot modellen representerar. Det rapporterar Politico efter att en koalition av åtta AI-säkerhetsorganisationer skickat ett öppet brev till EU-kommissionen.
EU stängt ute från Mythos-testet
Anthropics modell Claude Mythos Preview uppges kunna identifiera och utnyttja säkerhetsluckor i mjukvara på en nivå som tidigare krävt mänsklig expertis. Företaget har valt att inte släppa modellen publikt och delar den i stället med en begränsad grupp om 40 organisationer inom det slutna Project Glasswing.
EU-kommissionen är inte en av dem.
– Kommissionen är för närvarande inte en av de 40 namnlösa organisationer som har tillgång, säger Thomas Regnier, talesperson för EU-kommissionen.
Anthropic uppger att modellen hittade tusentals allvarliga säkerhetsluckor, däribland i samtliga stora operativsystem och webbläsare. USA:s regering och Storbritanniens AI Security Institute fick båda tillgång och det brittiska institutet publicerade en detaljerad teknisk analys inom en vecka från Anthropics tillkännagivande.
AI-kontoret för litet och för lågt i hierarkin
EU:s AI-kontor grundades för knappt två år sedan och har totalt omkring 140 anställda. Av dessa arbetar bara 36 i den säkerhetsenhet som ansvarar för de mest avancerade och riskfyllda AI-systemen, enligt Politico.
AI-säkerhetsförespråkare och personer med insyn i AI-kontorets arbete varnar för att enheten sitter för lågt i EU-kommissionens hierarki för att kunna agera kraftfullt vid en allvarlig kris. I det öppna brevet till kommissionen skriver koalitionen att ett tillräckligt resurssatt tillsynsorgan är nödvändigt för att möta hoten från hacknings-AI.
– Det är tydligt synligt att Storbritanniens AI Security Institute har förmågan att verka i den absoluta forskningsfronten, säger Stanislav Fort, citerad av Politico.
Kompetensbristen avgörande för EU:s förmåga
EU:s möjlighet att möta det växande cyberhotet hänger på förmågan att rekrytera rätt kompetens och bygga tätare relationer med de ledande AI-bolagen, något som exempelvis Storbritannien anses ha lyckats bättre med än Bryssel.
EU-kommissionen konkurrerar med branschens höga löner och starka AI-hubbar som London, vilket försvårar rekryteringen av specialister inom AI-säkerhet.
Jimmy Farrell, EU AI-policyansvarig på tankesmedjan Pour Demain och en av brevets undertecknare, pekar på Storbritanniens snabba analys av Mythos som ett bevis på att det går att agera snabbt.
– Europa kan göra detsamma, och Mythos gör detta ännu mer angeläget, säger han till Politico.
EU-kommissionen uppger att den är i samtal med Anthropic om riskerna med modellen och att viss information har utväxlats. Hur snabbt kontoret kan stärka sin kapacitet återstår att se, men trycket från civilsamhälle, industri och experter ökar nu på EU:s beslutsfattare att agera.
