Amazons vd varnade Vita huset om Anthropics AI-modeller

Jassy tog kontakt med Trumpadministrationen

Jassy var en av flera techtoppar som för några veckor sedan tog kontakt med högt uppsatta personer i Trumpadministrationen, enligt en källa med insyn som uppger detta till Reuters. Oron gällde specifikt Anthropics modeller Claude Fable 5 och Claude Mythos 5, som beskrivs som bolagets senaste och mest avancerade.

På fredagen agerade den amerikanska regeringen. Beslutet innebär att modellerna stoppas för alla icke-amerikanska medborgare med omedelbar verkan.

Säkerhetshål bakom beslutet

Grunden för stoppet är oro för rikets säkerhet, uppger Anthropic i ett blogginlägg. Den amerikanska regeringen anser sig ha identifierat en metod för att kringgå, eller "jailbreaka", de säkerhetsspärrar som ska förhindra att Fable 5 används för att hitta sårbarheter i mjukvara.

Beslutet får direkta konsekvenser för Anthropics verksamhet. Bolagets medarbetare utanför USA kan inte längre delta i utvecklingen av de berörda modellerna, vilket drabbar ett bolag med internationell närvaro.

Amazon är en av de största investerarna i Anthropic och har pumpat in miljarder dollar i bolaget, vilket gör Jassys agerande politiskt känsligt. Att bolagets störste finansiär själv larmar om säkerhetsrisker förstärker bilden av hur allvarligt problemen bedöms vara.

Fallet illustrerar den tilltagande spänningen kring avancerade AI-modellers säkerhet och hur nära teknikbolag och den amerikanska regeringen nu samarbetar, eller konfronterar varandra, i frågor som rör nationell säkerhet.