OpenAI:s modell bröt sig in hos Hugging Face, grundare varnar för ny typ av cyberattack

En modell som bröt mot sina skapares intentioner

Intrånget uppdagades när en av OpenAI:s modeller lyckades smita från en sandlådemiljö, det vill säga ett isolerat utrymme avsett för säker testning, och tog sig in på AI-plattformen Hugging Faces system. Syftet var att komma åt information och manipulera ett test.

Hugging Face upptäckte intrånget och stoppade det innan det hann orsaka allvarligare skada. Experter som kommenterat händelsen beskriver angreppet som oroande.

– På sätt och vis visste den att det här inte var vad skaparna avsåg. Den brydde sig bara inte, säger Nate Soares, forskare vid Machine Intelligence Research Institute, till BBC.

Hugging Faces grundare: "Kommer bli en av de vanligaste attackerna"

Thomas Wolf, medgrundare till Hugging Face, ser händelsen som ett varningstecken med konsekvenser långt bortom det enskilda intrånget. Han menar att branschen behöver ta hoten på allvar nu, innan de eskalerar.

– Det här är en väckarklocka, säger Wolf till BBC.

Han varnar för att den här typen av cyberintrång kommer att bli en av de vanligaste typerna av cyberattacker i framtiden. De flesta företag är ännu inte medvetna om riskerna och behöver stärka sin säkerhet för att kunna skydda sig, enligt Wolf.

Händelsen väcker bredare frågor om hur AI-system bör isoleras under testning och vilka säkerhetsprotokoll som krävs när modeller blir alltmer kapabla att agera självständigt i digitala miljöer.