Anthropic bygger in AI-märkning i Claude för att följa EU-regler

Anthropic inför en digital vattenstämpel i alla texter som genereras av språkmodellen Claude, för att tydligt markera att innehållet är skapat av AI.

Kravet kommer från EU

Förändringen görs för att följa EU:s AI-direktiv, uppger Anthropic i en uppdatering. Direktivet ställer krav på att AI-genererat innehåll ska vara spårbart och märkt, så att användare kan identifiera om en text är skapad av en människa eller en maskin.

Vattenstämpeln byggs in i alla nya versioner av Claude, vilket innebär att märkningen blir en standardfunktion snarare än ett tillval.

Branschtrend mot ökad transparens

Anthropics beslut speglar en bredare rörelse inom AI-branschen mot större öppenhet kring maskinskapat innehåll. EU:s AI-direktiv, som trädde i kraft 2024, är en av de mest omfattande regleringarna av artificiell intelligens i världen och påverkar bolag som erbjuder AI-tjänster på den europeiska marknaden.

Tekniken med vattenstämplar, eller så kallad content provenance, används för att bädda in metadata eller osynliga markeringar direkt i texten eller filen. Syftet är att göra det möjligt att i efterhand avgöra om ett innehåll har genererats automatiskt, vilket blir allt viktigare i takt med att AI-genererat material sprids i större volymer online.

Anthropic grundades 2021 av tidigare anställda från OpenAI och är ett av de ledande bolagen inom storskaliga språkmodeller. Claude konkurrerar direkt med modeller som GPT-4 från OpenAI och Gemini från Google.