OpenAI vill låta oberoende experter granska AI-modeller tidigare i utvecklingen
Foto: Freepik
OpenAI planerar att utöka möjligheterna för externa organisationer att granska säkerheten hos bolagets AI-modeller, redan under träningsfasen. Det framgår av ett blogginlägg från ChatGPT-utvecklaren, rapporterar Bloomberg.
Granskning i flera led av utvecklingsprocessen
Förändringen innebär att oberoende experter får tillgång till modellerna under tre faser, nämligen träning, utvärdering och lansering. Det är en utvidgning jämfört med dagens upplägg, där externa granskare kopplats in senare i processen.
OpenAI har anlitat externa granskare sedan lanseringen av GPT-4, men bolaget vill nu att dessa aktörer ska kunna följa och bedöma modellernas utveckling under ett längre tidsspann.
Svar på växande oro för AI:s skadeverkningar
Åtgärden är en del av OpenAI:s arbete med att hantera den oro som vuxit kring AI-teknikens potentiella risker. Frågor om säkerhet, bias och möjliga missbruk av kraftfulla språkmodeller har under de senaste åren hamnat i fokus hos både myndigheter, forskare och allmänhet.
Genom att bjuda in oberoende organisationer tidigare i processen signalerar OpenAI en ambition att öka transparensen, något som länge efterfrågats av kritiker och tillsynsorgan i bland annat EU och USA.
Det är ännu inte klart vilka organisationer som kommer att ingå i det utvidgade granskningsprogrammet eller när det träder i kraft fullt ut.
