AI-bolag fruktar biologiska vapen som nästa stora säkerhetsrisk
Foto: Freepik
AI-företag världen över förbereder sig nu för att deras modeller ska kunna utnyttjas för att skapa virus och biologiska vapen, rapporterar Financial Times. Oron växer om att biologi håller på att bli det nästa stora säkerhetshotet inom AI, efter cyberattacker.
Biologi kan bli värre än cyberattacker
Medan cyberattacker länge dominerat diskussionen om AI-risker, pekar experter nu mot biologiska hot som ett minst lika allvarligt problem. Skillnaden är att riskerna inom det biologiska området är betydligt svårare att kartlägga och testa.
För att fullt ut undersöka vad en AI-modell faktiskt klarar av på det biologiska området skulle det i värsta fall krävas att man försöker framställa ett biologiskt vapen i ett verkligt laboratorium. Det gör säkerhetsarbetet fundamentalt annorlunda jämfört med cybersäkerhet, där man kan simulera attacker i kontrollerade miljöer.
Ett enda misstag kan rasera förtroendet
Konsekvenserna av ett misslyckande bedöms som extremt allvarliga, inte bara i materiell bemärkelse utan även för samhällets tillit till teknik och vetenskap.
– Det krävs bara ett enda misstag för att på ett ögonblick rasera det förtroende som allmänheten fortfarande har för vetenskap, medicin och teknik. Det kan ta åratal att bygga upp igen, säger David Relman, professor i mikrobiologi och immunologi vid Stanford.
Relmans varning speglar en bredare oro inom forskarvärlden om att AI-modellers kapacitet inom biologi utvecklas snabbare än de säkerhetsmekanismer som ska hålla dem i schack. Redan i dag kan avancerade AI-system assistera inom komplexa biologiska beräkningar och syntetisk biologi, områden som tidigare krävde djup specialistkunskap.
AI-bolagen arbetar enligt Financial Times aktivt med att bygga skyddsbarriärer, så kallade safeguards, specifikt riktade mot biologiska risker. Hur effektiva dessa åtgärder är förblir svårt att verifiera utan att faktiskt testa gränserna, vilket skapar ett principiellt dilemma för säkerhetsforskarna.
