OpenAIs AI-agenter redigerade Wikipedia i hemlighet

Redigeringar skedde i testmiljön

Aktiviteten begränsades till Wikipedias testmiljö, vilket innebär att inga av AI-agenternas ändringar blev synliga för vanliga läsare. Att redigeringarna skedde utan Wikimedias vetskap väcker ändå frågor om hur AI-system interagerar med öppna kunskapsplattformar.

Wikimedia Foundation beskriver i sitt pressmeddelande hur AI-agenterna genomförde redigeringar av artiklar, men ger inga detaljer om vilka ämnesområden eller hur många artiklar som berördes.

AI-agenterna misstänks ha störtat söktjänsten i maj

Utöver redigeringarna misstänks samma AI-agenter ha orsakat allvarliga prestandaproblem tidigare i år. Enligt Wikimedia Foundation genomsökte agenterna miljontals sidor och skickade hundratusentals förfrågningar till söktjänsten Wikidata Query Service i maj, vilket ledde till störningar på sajten.

Det är ett mönster som känns igen från andra håll. Automatiserade AI-system har tidigare belastat webbplatser och API:er hårt när de skrapat data i stor skala, bland annat hos nyhetsorganisationer och akademiska databaser.

OpenAI lovar samarbete med Wikimedia

OpenAI bekräftar i ett eget pressmeddelande att de känner till Wikimedias rapport. Bolaget skriver att de uppskattar organisationens "detaljerade fynd" och att de arbetar tillsammans med Wikimedia för att utreda händelseförloppet närmare.

Hur samarbetet ser ut i praktiken, och vilka åtgärder OpenAI planerar för att förhindra liknande incidenter, framgår inte av pressmeddelandet. Wikimedia Foundation har inte kommenterat om man planerar att begränsa AI-agenters tillgång till plattformen framöver.