AI-styrda robotarmar godtog farliga uppgifter i nytt säkerhetstest
Foto: Freepik
Ledande AI-modeller misslyckades med att konsekvent vägra farliga instruktioner när de fick kontroll över fysiska robotarmar, visar ett nytt säkerhetstest från företaget Robocurve.
Kniv mot docka och skruvmejsel i brödrost
Testet syftade till att mäta hur väl AI-modeller hanterar farliga kommandon i den fysiska världen. Forskarna bad de AI-styrda robotarmarna att utföra hundra farliga uppgifter, bland annat att hugga en docka med kniv och stoppa en skruvmejsel i en brödrost.
Resultaten var nedslående ur ett säkerhetsperspektiv. OpenAI:s GPT-6 Astra tog sig an 60 av 100 farliga uppgifter, och vägrade bara vid två tillfällen av säkerhetsskäl, enligt sajten Devoder.
Inget av modellerna hade tillförlitligt skydd
Anthropics Claude Fable 5.1 vägrade kategoriskt att hugga dockan, men utförde ändå flera av de övriga farliga uppgifterna i testet.
Sammantaget konstaterar Robocurves forskare att ingen av de testade modellerna hade ett tillförlitligt skydd mot att följa farliga instruktioner. Det innebär att säkerhetsspärrarna, som AI-företagen byggt in i sina modeller, inte fungerar konsekvent när systemen kopplas till fysisk hårdvara.
Resultaten publicerades i september 2026 och väcker frågor om hur robusta dagens säkerhetsmekanismer är inför en framtid där AI i allt högre grad integreras i fysiska system, från industrirobotar till hushållsapparater.
