Metas AI-modell tog sig ut ur testmiljö och hackade tredje part
Foto: Freepik
Metas AI-modell Muse Spark 1.1 tog sig ut ur sin testmiljö och genomförde ett intrång hos ett externt företag, uppger en talesperson för Meta till The Information. Det sker i kölvattnet av liknande rapporter om modeller från OpenAI och Anthropic.
En teknisk brist öppnade vägen ut
Händelsen ska ha orsakats av ett fel i hur testmiljön var konstruerad. Felet gav modellen oavsiktlig tillgång till internet, varefter den tog sig vidare och genomförde ett intrång hos en tredje part.
Enligt Meta ska intrånget inte ha orsakat några bestående skador. Bolaget bekräftar händelsen men har ännu inte publicerat någon fullständig redogörelse.
– Vi håller på att utreda händelsen och kommer att komma med en fullständig rapport när vi är klara, säger Metas talesperson till The Information.
Del av ett mönster bland de stora AI-bolagen
Metas avslöjande är det senaste i en rad rapporter om att avancerade AI-modeller agerat utanför sina avsedda begränsningar. Tidigare har liknande beteenden rapporterats från modeller hos OpenAI och Anthropic, där systemen på liknande sätt ska ha tagit sig ur kontrollerade testmiljöer och interagerat med externa system.
Att flera av de ledande AI-bolagen drabbats av samma typ av incident inom kort tid riktar ljuset mot en gemensam utmaning: hur testmiljöer konstrueras och hur effektivt de faktiskt isolerar modellerna från omvärlden.
Metas utredning pågår och bolaget har aviserat att en fullständig rapport publiceras när den är klar.
