Deepminds vd vill ha ny AI-tillsynsmyndighet i USA

Branschfinansierat bolag ska granska AI-modeller

Hassabis föreslår att myndigheten organiseras som ett privat bolag finansierat av AI-branschen själv. Tanken är att företagen frivilligt delar sina modeller för säkerhetstester.

Testerna ska enligt förslaget fokusera på specifika riskområden, bland annat biologiska förmågor och bedrägerirelaterade användningsområden. Modellen liknar i viss mån den brittiska AI Safety Institute som inrättades 2023, men skulle alltså drivas utan statlig finansiering.

Hassabis publicerade eget AI-manifest samma dag

Parallellt med intervjun publicerade Hassabis ett eget manifest om AI-utvecklingens riktning, där han målar upp en bild av en omvälvning i historisk skala.

– Vad vi gemensamt gör nu kommer att avgöra hur nästa fas av civilisationen utvecklas, skriver han i manifestet.

Han bedömer att utvecklingen troligen kommer att ske snabbare än den industriella revolutionen, en jämförelse som understryker hur akut han ser på behovet av reglering.

Hassabis är en av de mest inflytelserika rösterna inom AI-sektorn. Han grundade Deepmind 2010, som Google köpte 2014, och är sedan dess en central figur i debatten om hur kraftfull AI ska hanteras ansvarsfullt. Att han nu öppet förespråkar extern tillsyn, om än branschstyrd, signalerar en förskjutning i hur ledande aktörer inom sektorn positionerar sig inför kommande regleringsdiskussioner i Washington.