Experter: alla har lite rätt och lite fel om AI-hotet

Pingismatch mellan undergång och förnekelse

Diskussionen om AI-risker liknar en pingismatch, enligt Charlie Warzel, teknikreporter på The Atlantic. På ena sidan finns de som varnar för existentiella hot, på den andra de som avfärdar alla orosmolnen som hysteri.

Warzel menar att båda lägren har en poäng, men att ingendera träffar rätt helt och hållet. De som larmar om risker har fog för att modellerna kan bete sig på oväntade och svårkontrollerade sätt. Skeptikerna har rätt i att det inte beror på att tekniken är levande eller självmedveten.

– Det här är avancerade datorprogram som tränats av bristfälliga människor för att lösa problem som bristfälliga människor annars skulle göra, skriver Warzel i sin analys.

Poängen är inte att AI saknar risker, utan att riskerna missförstås när de beskrivs som en fråga om teknikens egna drifter och avsikter.

Det mänskliga felet är den verkliga faran

Aisha Down, teknikreporter på The Guardian, pekar i samma riktning. Det farliga med AI är inte att tekniken på egen hand ska vända sig mot mänskligheten, utan att människor fattar dåliga beslut om hur den används.

– Människor kan fatta det dåliga beslutet att sätta AI i kontroll över kärnvapensystem, men människor kan också fatta det dåliga beslutet att avfyra taktiska kärnstridsspetsar utan AI, skriver Down.

Resonemanget förskjuter ansvaret från tekniken till de som designar, driftsätter och reglerar den. Felbedömningar, bristande tillsyn och kortsiktiga incitament hos utvecklare och beslutsfattare är enligt Down det som skapar de verkliga riskerna.

Det är en analys som utmanar både dem som vill reglera AI som om det vore en självständig aktör och dem som menar att marknaden löser problemen av sig själv. Debatten om hur AI-utvecklingen ska styras fortsätter, och frågan om vem som bär ansvaret när systemen fallerar lär bli alltmer central i takt med att tekniken får större inflytande över samhällskritiska funktioner.