Anthropic och OpenAI lovar bromsa AI-utvecklingen vid FN-möte

AI-cheferna vill bromsa om säkerheten kräver det

Anthropics vd Dario Amodei var tydlig i sitt budskap till generalförsamlingen, rapporterar AFP.

– Vi kommer sakta ner så mycket det behövs för att säkerställa att all AI-teknologi vi släpper faktiskt är säker, säger Dario Amodei, vd för Anthropic.

Uttalandet markerar en tydlig kursändring i retoriken från ett av de mest inflytelserika AI-bolagen. Anthropic, som bland annat utvecklar AI-assistenten Claude, har länge befunnit sig i framkanten av den snabba kapplöpningen om mer kraftfulla modeller.

OpenAI söker medelväg mellan optimism och undergång

Även OpenAI:s vd Sam Altman höll tal under kvällen i FN, med ett liknande men något mer nyanserat budskap.

– Branschen får inte acceptera för stora teknologiska risker bara för att fördelarna är för stora och viktiga för att sakta ner, säger Sam Altman, vd för OpenAI.

Altman beskrev samtidigt OpenAI:s ambition att navigera mellan ytterligheter, och söka en medelväg mellan "blind optimism" och "undergångsbudskap". Det är en formulering som speglar den pågående debatten inom techbranschen om hur snabbt AI får och bör utvecklas.

Att båda företagscheferna valde FN:s generalförsamling som plattform signalerar att AI-säkerhet nu betraktas som en fråga av global politisk betydelse, inte enbart en intern branschfråga. Liknande diskussioner förs parallellt i EU, där AI-förordningen redan börjat träda i kraft, och i USA där lagstiftare länge efterlyst tydligare reglering av stora AI-modeller.