Anthropic släpper säker version av modellen som ansågs för farlig att ge ut
Foto: Freepik
Teknikbolaget Anthropic lanserade på tisdagskvällen AI-modellen Claude Fable 5, med förmågor i nivå med Mythos Preview, en modell som tidigare i våras bedömdes vara för farlig för att släppas publikt.
Mythos Preview stoppades på grund av cybersäkerhetsrisker
Beslutet att hålla tillbaka Mythos Preview fattades efter att Anthropic bedömt att modellen i fel händer kunde utgöra ett allvarligt hot mot världens cybersäkerhet. Bolaget valde då att inte ge allmänheten tillgång till den.
Nu återkommer samma kapacitet i en ny form. Claude Fable 5 uppges ha inbyggda säkerhetsmekanismer som blockerar försök att använda modellen för cyberattacker eller för att få hjälp med att skapa biologiska vapen, enligt Anthropic i ett uttalande.
Två spår, två användargrupper
Lanseringen sker parallellt på två fronter. Fable 5 riktar sig till den breda allmänheten, medan de cirka 150 utvalda användare som tidigare testade Mythos Preview nu får tillgång till den obegränsade versionen Mythos 5.
Det innebär att Anthropic håller isär de två modellerna beroende på vem som använder dem, med hårdare begränsningar för den publika versionen och full kapacitet förbehållen en liten, kontrollerad testgrupp.
Lanseringen sker i ett klimat där AI-bolag i allt högre grad tvingas balansera konkurrenstryck mot säkerhetshänsyn, och Anthropics beslut att dela upp tillgången till Mythos-kapaciteten speglar den avvägningen.
