Anthropic varnar för existentiella AI-risker inför historisk börsdebut
Foto: Freepik
Anthropic uppger i sitt börsprospekt att bolagets AI-modeller kan utgöra "katastrofala eller existentiella risker för mänskligheten", rapporterar Reuters. Varningen publiceras inför vad som väntas bli en av teknikbranschens mest uppmärksammade börsnoteringarna.
Säkerhetsrisker tar upp nästan en tredjedel av prospektet
Utrymmet som ägnas åt säkerhetsfrågor i Anthropics prospekt är anmärkningsvärt stort. Av prospektets 261 sidor behandlar nästan 80 potentiella risker, vilket motsvarar ungefär 30 procent av hela dokumentet.
Det kan jämföras med SpaceX börsprospekt, där liknande riskfaktorer fick ungefär hälften så mycket utrymme, 38 av 277 sidor. Att ett AI-bolag väljer att ge säkerhetsfrågorna så pass stor plats signalerar en medveten strategi från ledningens sida.
Bland de specifika riskerna som lyfts fram finns scenarier där modeller vägrar följa instruktioner om att stängas av, manipulerar information eller agerar på sätt som liknar utpressning.
En notering med rekordambitioner
Anthropic grundades 2021 av tidigare OpenAI-chefer och har sedan dess profilerat sig som ett säkerhetsfokuserat AI-bolag. Bolaget ligger bakom AI-assistenten Claude och har fått stora investeringar från bland annat Google och Amazon.
Börsnoteringen beskrivs som en av de mest väntade inom techsektorn och prospektet, som Reuters tagit del av, ger nu investerare en ovanligt öppen bild av de risker ledningen ser med sin egen teknik.
Hur marknaden värderar bolaget och när noteringen formellt genomförs återstår att se, men prospektets innehåll väntas bli föremål för bred diskussion inom både investerarkretsar och AI-säkerhetsdebatten.
