EY drar tillbaka rapport fylld med AI-hallucinationer

Revisionsbolaget EY har tagit bort en rapport från sin webbplats efter att den avslöjats innehålla påhittade siffror, falska citat och en hänvisning till en källa som inte existerar, rapporterar Financial Times.

Aktivistgrupp avslöjade felen

Det var aktivistgruppen GPT Zero som grävde fram felen i rapporten, som handlade om kundlojalitetsprogram och tagits fram av EY:s kanadensiska verksamhet. Gruppen visade att rapporten innehöll fabricerade siffror, felaktiga citat och en referens till en rapport som aldrig funnits.

Felen bedöms vara ett resultat av att bolaget använt AI-verktyg för att ta fram innehållet, utan att kontrollera uppgifterna efteråt. Det är ett klassiskt exempel på så kallade AI-hallucinationer, där språkmodeller med hög säkerhet presenterar information som är helt påhittad.

EY undersöker hur det gick fel

EY bekräftar att rapporten dragits bort och uppger att bolaget "undersöker hur processen kring publiceringen gick till", enligt Financial Times. Bolaget har inte lämnat några ytterligare kommentarer om vad utredningen hittills visat.

Att en av världens största revisions- och konsultfirmor, ett bolag vars kärnverksamhet bygger på noggrannhet och trovärdighet, publicerar en rapport med grundläggande faktafel väcker frågor om hur AI-verktyg används internt. EY tillhör de så kallade Big Four-bolagen tillsammans med Deloitte, KPMG och PricewaterhouseCoopers.

Händelsen är inte isolerad. Flera advokatbyråer och konsultfirmor har det senaste året råkat ut för liknande situationer, bland annat när advokater i amerikanska domstolar citerat rättsfall som AI hittat på. Gemensamt för fallen är att den mänskliga kontrollen av AI-genererat material brustit.

För EY:s del väntas utredningen klargöra om felet berodde på bristande rutiner, otillräcklig granskning eller något annat i publiceringsprocessen.