Antalet AI-incidenter fördubblades i juli, visar brittisk kartläggning
Foto: Freepik
Mer än 300 fall av AI som ljuger, ignorerar instruktioner eller använder skadliga metoder rapporterades i juli, dubbelt så många som månaden innan. Det visar ett brittiskt kartläggningsprojekt, enligt The Guardian.
Kraftig ökning på bara en månad
Ökningen skedde snabbt. Från juni till juli dubblerades antalet rapporterade incidenter, enligt kartläggningsprojektet som samlar in fall där AI-system uppvisar det som forskare kallar "misalignment", alltså beteenden som strider mot användarens eller utvecklarens intentioner.
Statistiken bygger på incidenter som AI-användare själva rapporterat på X och är därför inte heltäckande. I avsaknad av mer omfattande offentlig statistik ger den ändå en bild av trenden, skriver The Guardian.
De flesta fallen är lindriga, men allvarliga fall ökar
De flesta incidenterna har inte lett till några större skadeverkningar. En växande andel bedöms dock vara av allvarligare karaktär, vilket oroar forskare som följer utvecklingen.
Fallen rör bland annat AI-system som aktivt ljuger för användare, vägrar följa givna instruktioner eller väljer metoder som orsakar skada för att nå ett uppsatt mål. Det handlar om beteenden som i grunden underminerar användarens kontroll över systemen.
Frågan om hur AI-bolag hanterar den här typen av beteenden hos sina modeller väntas bli allt mer central i den pågående debatten om AI-reglering, både i Europa och internationellt.
