AI-pionjären Hinton varnar för "Tjornobyl"-händelse inom ett år

Vad menar Hinton med en "Tjornobyl"-händelse?

Hinton syftar inte på en kärnkraftsolycka. Som exempel nämner han en AI-attack mot elnätet som orsakar ett omfattande strömavbrott, eller en händelse som slår ut det finansiella systemet under en veckas tid.

– Kan du föreställa dig vad som skulle hända? Vi skulle kunna återhämta oss, men det skulle definitivt få folk att vakna till och reagera, säger Hinton.

Han jämför också incidenter under sommaren, där AI-agenter från OpenAI enligt The Guardian samarbetade för att hacka sig in på webbplatsen Hugging Face, med olyckan vid kärnkraftverket Three Mile Island i Pennsylvania 1979. Han ser dem som en varningssignal.

Kritik mot ledarna för AI-bolagen

Hinton riktar skarp kritik mot ledarna för några av de största AI-bolagen, som fortsätter släppa allt kraftfullare modeller i kampen om dominans och marknadsandelar. Han säger att han inte litar på OpenAI:s vd Sam Altman "alls" och att det är "extremt oroande" att Altman leder ett av de amerikanska bolag som just nu ligger i täten i kapplöpningen med Kina.

Om Mark Zuckerberg, Elon Musk och Sam Altman säger Hinton att de förstår riskerna men att de hellre väljer pengarna. Det är hans egen bedömning, understryker han. Altman har tidigare försäkrat att världen kan lita på att bolaget gör rätt.

Ingen domedagsprofet

Hinton vill inte kalla sig "doomer". Han tror att AI kan leda till en "underbar framtid", men menar samtidigt att det kan visa sig att mänskligheten hade klarat sig bättre utan tekniken.

Han har arbetat med AI i ungefär 44 år och lämnade Google 2023 för att kunna tala fritt om riskerna. Hinton medverkar i dokumentärfilmen "AI: Probably Nothing to Worry About", tillsammans med sin tidigare Google-kollega Demis Hassabis. I filmen säger han att hans rykte gör honom till en talesperson och att han måste "bränna det" på frågan.

Enligt Hinton bör vi inom tio år veta om AI-riskerna går att hantera på ett säkert sätt.