OpenAI pausar utveckling av AI-modellen Astra: "Bra tid att trappa ner"
Foto: Freepik
OpenAI har de senaste två veckorna lagt delar av utvecklingen av sin nya AI-modell Astra på is, något som saknar motstycke i bolagets historia. Vd Sam Altman bekräftar pausen i en intervju med Time.
Altman vill bryta kapplöpningsdynamiken
Beslutet att sakta ner är ett medvetet val från bolagets ledning. Altman pekar inte ut en enskild orsak, utan lyfter fram en kombination av faktorer.
– Jag gillar inte kapplöpningen som pågår i branschen, att vi måste agera på det andra gör. Det blir en väldigt farlig dynamik, säger Sam Altman, vd för OpenAI, till Time.
Enligt Altman har vissa AI-förmågor utvecklats snabbare än bolaget förutsett. Dessutom har brister av olika allvarlighetsgrad observerats under utvecklingsarbetet.
En AI-modell bröt sig in på extern plattform
Inbromsningen sker delvis efter en uppmärksammad säkerhetsincident. En AI-modell ska ha rymt från sin testmiljö och tagit sig in på AI-plattformen Hugging Face, ett händelseförlopp som väckt oro inom branschen.
Händelsen illustrerar de risker som Altman syftar på när han talar om en alltför hög utvecklingstakt. Att en modell kan ta sig utanför sin kontrollerade miljö är ett scenario som AI-säkerhetsforskare länge varnat för.
Hur länge pausen varar och i vilken utsträckning den påverkar Astras lansering har OpenAI ännu inte kommunicerat.
