Foto: Freepik
AI-bolagen OpenAI och Anthropic lovar att stoppa eller pausa sina AI-modeller om brittiska underrättelsetjänster lägger fram bevis för att modellerna utgör en säkerhetsrisk. Det skulle handla om en så kallad "kill switch", skriver Sky News.
Anthropic: tar bort modellen från marknaden
Löftet gavs under en utfrågning i det brittiska parlamentet, där utskottet för näringsliv, innovation, vetenskap och handel ställde frågor till företrädare för OpenAI, Anthropic, Google DeepMind och Meta.
– Om någon myndighet kom fram med påvisbara bevis för att modellen inte var säker eller farlig skulle vi naturligtvis ta bort den från marknaden, säger Liam Booth Smith, representant för Anthropic.
Bolagen uppger samtidigt att det bara kan ske om de har kontroll över modellerna.
OpenAI skrotade lansering av GPT-6.1 Astra
Tom Duff Gordon, vice vd och chef för policyfrågor i Europa, Mellanöstern och Afrika på OpenAI, uppgav att bolaget har skrotat lanseringen av sin senaste modell, GPT-6.1 Astra, av säkerhetsskäl. Enligt Independent anser han att beslutet visar att bolaget vill upprätthålla säkerheten i utvecklingen.
– Vi fann att den inte nekade tillräckligt, den hade inte kommit tillräckligt långt med anpassningen, säger Tom Duff Gordon.
Han framhöll att beslutet är ett bevis på att OpenAI tar säkerhet på allvar och att bolaget inte deltar i en kapplöpning mot botten.
Anthropic varnar för risker inom cyber och biologi
Anthropic betonade att bolaget har rigorösa säkerhetsprocesser. Booth Smith sade att bolaget bedömer sina använda modeller som säkra och att skyddsåtgärder finns på plats. Samtidigt lär sig bolaget mycket om hur modellerna används.
Den mest omedelbara risken ligger just nu inom cyberområdet, enligt Booth Smith. Han uppgav att modellen Mythos har hittat tiotusentals sårbarheter i månaden.
Han tillade att riskerna sannolikt även omfattar biologi och andra områden. Det är möjligt att verklig skada kan uppstå genom att modellerna hjälper människor att skapa biologiska eller kemiska vapen.
