Foto: Freepik
FN startar ett nytt internationellt forum för att hantera de risker som militär användning av artificiell intelligens kan innebära för mänskligheten, rapporterar AP. Bakgrunden är en växande oro för att tekniken ska utvecklas bortom människans kontroll.
Vem leder initiativet och vad är målet?
Initiativet leds av FN:s institut för nedrustningsforskning (UNIDIR). Inom forumet ska regeringar, försvarsföretag och forskare samlas.
Institutets chef, Robin Geiss, pekar på svårigheten att avgöra när kontrollen över tekniken går förlorad.
– Det är svårt att avgöra vid vilken punkt vi faktiskt förlorar kontrollen, säger Robin Geiss, chef för UNIDIR.
Enligt AP:s rubrik beskriver Geiss också en växande medvetenhet om att världen har kommit till ett vägskäl och måste agera.
Varför är industrin en del av samtalen?
Många stater anser att industrin bör delta i politiska initiativ om ansvarsfull militär AI. Det framgår av en rapport från FN:s generalsekreterare António Guterres, som refereras av den fredsforskande institutionen SIPRI. Förutom industrin nämns den vetenskapliga världen och civilsamhället som aktörer. Arbetet sträcker sig utanför FN och omfattar även processer som toppmötet om ansvarsfull AI i det militära området (REAIM).
SIPRI anger två skäl till att stater vill involvera industrin. Det första är att företagen har teknisk expertis och erfarenhet som kan hjälpa beslutsfattare att förstå tekniken, samt identifiera och minska riskerna. Det andra är att designval under utvecklingen av ett AI-system påverkar om det kan användas i linje med rättsliga och etiska ramverk.
Vilka företag räknas som militär AI-industri?
Det finns inget representativt organ för AI-industrin, och begreppet militärt AI-företag är omstritt. Det skriver SIPRI i en kartläggning från den 23 april.
AI är enligt SIPRI ingen enskild teknik utan ett paraplybegrepp för många tekniker som olika företag levererar på olika sätt. Palantir betraktas som en nyckelaktör trots att bolaget inte bygger AI-modeller. Det tillhandahåller i stället dataanalysplattformar som innehåller modeller från andra företag. Andra firmor erbjuder tjänster som datahantering samt testning, utvärdering, verifiering och validering, utan att själva tillverka AI-system.
