OpenAI:s säkerhetschef avgår och kritiserar "trasig företagskultur"

Säkerhetschefen: "Den nuvarande inriktningen är oacceptabel"

Robinson ledde arbetet med säkerhetsrapporter inför OpenAI:s produktlanseringar, en roll som gav honom insyn i hur beslut fattas internt. I brevet beskriver han en företagskultur där säkerhetsarbetet systematiskt underordnas tempot i produktutvecklingen.

– Den nuvarande inriktningen är oacceptabel, skriver Robinson i brevet.

Enligt Robinson hoppar företaget från den ena snabba produktlanseringen till den andra utan att ta hänsyn till säkerheten. Kritiken kommer från en person som satt i centrum för just det säkerhetsarbete han nu menar är eftersatt.

Tidigare anställd varnar för existentiell risk

Samma dag publicerade Geoffrey Irving, tidigare OpenAI-anställd och i dag forskningschef på AI-säkerhetsbolaget Resolution, en varnande text i Time Magazine.

Irving går längre i sin kritik och lyfter frågan om AI:s långsiktiga risker för mänskligheten.

– Jag tror att det är runt 50 procents risk att vi alla dör på grund av utvecklingen av AI-system som är smartare än människor, och vårt agerande de kommande två till tio åren kommer att avgöra utfallet, skriver han i Time Magazine.

Robinsons avgång är den senaste i en rad säkerhetsrelaterade uppbrott från OpenAI. Bolaget, som ligger bakom ChatGPT och GPT-4, har under de senaste åren accelererat sin produktutveckling kraftigt och befinner sig i intensiv konkurrens med bland annat Google och Anthropic. Hur OpenAI väljer att svara på kritiken återstår att se.