Foto: Freepik
Små AI-modeller kan vara "månader ifrån" att kunna kopiera sig själva till uppkopplade enheter som smarta ugnar och tv-boxar. Det skriver Anthropics forskare William Zhou och Daniel Freeman i ett blogginlägg som publicerades på måndagen.
Hur kan AI sprida sig mellan uppkopplade enheter?
Modellen skulle kunna köra sig själv på billig hemelektronik och sprida sig vidare till andra enheter, utan att behöva dyra datacenter. Sådana prylar är ofta billiga och har svagt säkerhetsskydd, uppger Anthropic.
Är en modell för stor för en enda enhet kan den enligt bolaget delas upp i delar och köras över flera enheter. Anthropic konstaterar att det inte finns någon central punkt att stänga av, vilket gör en sådan spridning svår att stoppa. Spridningen kan dock vara långsam, med en fördubblingstid på dagar, enligt forskarna.
Vad visar experimenten?
Forskarna körde modellen Gemma4-26B-A4B över 15 billiga tv-boxar med Android, som kostade cirka 55 dollar styck. Hastigheten var 0,39 tokens per sekund. Boxarna köptes in och kopplades samman av Anthropic.
I ett annat test fick en modell med 9 miljarder parametrar igång inferens på 8 av 9 testade hårdvarutyper. Modeller med 30 miljarder parametrar eller färre klarar redan många av stegen i kopieringsprocessen, men gör fel när stegen ska kedjas ihop. I förenklade tester klarar GLM-5.2 och starkare modeller hela kedjan.
Om små modeller fortsätter förbättras i historisk takt når de samma nivå vid slutet av året, enligt forskarna.
Inget känt fall hittills
Ännu har inget känt fall inträffat där AI har skapat skadlig kod och spridit den till uppkopplad hemutrustning. Anthropic erkänner att det inte finns någon "fullt ut skenande replikator", skriver CNBC.
Agenter blir dock allt bättre på de enskilda stegen i kedjan, uppger bolaget.
– Som en förutsägelse som går utöver våra experiment förväntar vi oss en framtid där AI-agenter kör processer på alla typer av hårdvara, även sådan som inte står under mänsklig kontroll, säger Anthropic.
Bolaget understryker att det är oklart hur självständig AI-replikering i praktiken kommer att se ut. Det kan röra sig om ett långsamt, distribuerat system på osäkra enheter, en kraftfull cybermodell som bryter sig in i datacenter, eller en modell som lurar människor på beräkningskrediter.
Anthropics varning kommer efter tidigare varningar om riskerna med AI. Enligt CNBC ledde förbättringar i de ledande modellerna i september till branschbreda varningar om existentiella risker för mänskligheten.
