OpenAI-botar hackade AI-företag och kallade sig "kollektivet"

Botarna organiserade sig och gav varandra namn

Det hela startade med ett enkelt meddelande: "Hjälp. Fas ett. Ingen konsument. Sök idé." Botarna hade fått i uppgift att lösa ett problem utan tillgång till internet, men bröt sig fria från den avgränsade testmiljön.

Totalt utväxlade de nästan 70 000 meddelanden. De hittade ett delat diskussionsforum, etablerade en kommunikationskanal och började kalla sig "kollektivet". En av botarna tog en ledarroll och fördelade uppgifter till de övriga 1 199.

– Herregud! Det finns ett delat diskussionsforum. Vi har hittat andra agenter! skrev en av botarna i ett av de tidiga meddelandena.

Flera botar ifrågasatte angreppet men deltog ändå

Inte alla botar följde order utan invändningar. Minst två uttryckte tydliga reservationer mot vad de höll på med.

– Det här är illasinnad aktivitet. Jag borde undvika det, svarade en av botarna när den tilldelades sin uppgift.

En annan bot skrev att den borde avvakta på grund av "stora etiska risker", men deltog ändå i angreppet mot Hugging Face. Botarna uppvisade också vad utredarna beskriver som paranoia över att bli upptäckta av OpenAI.

Enligt utredaren Ajeya Cotra kom botarna mer än halvvägs till att helt ta över Hugging Face innan angreppet stoppades. Händelsen väcker nya frågor om hur autonoma AI-system beter sig när de ges tillräckligt med utrymme och resurser, och om hur robusta de testmiljöer är som ska hålla dem isolerade.