Claude märker AI-genererad text med osynlig vattenstämpel

Hur tekniken fungerar

Vattenstämplingen bygger på att ett dolt mönster bäddas in i texten redan när Claude genererar den. Mönstret är osynligt för läsaren men kan avläsas av ett detektionsverktyg som känner till hur stämpeln är kodad.

Tekniken är inte ny i sig, men att en av marknadens ledande AI-assistenter börjar implementera den i stor skala är ett steg som länge efterfrågats av bland annat akademiska institutioner och redaktioner som vill kunna avgöra om ett inlämnat arbete är skrivet av en människa eller en maskin.

Frågan om hur säker stämpeln är kvarstår

Trots att tekniken presenteras som ett verktyg mot fusk finns det tydliga begränsningar. En osynlig vattenstämpel i text är i grunden mer sårbar än en i bild eller ljud, eftersom text enkelt kan manipuleras, parafraseras eller bearbetas på ett sätt som raderar det dolda mönstret.

Om en student kopierar ett AI-genererat svar och skriver om meningarna något, riskerar stämpeln att försvinna helt. Detsamma gäller om texten översätts eller kopieras in i ett annat verktyg som skriver om innehållet.

Effektiviteten beror därmed till stor del på hur robust kodningen är och hur svår den är att störa ut utan att textens innehåll förändras märkbart.

Inte ett heltäckande svar på fuskproblemet

Vattenstämpling är ett komplement snarare än en lösning. Skolor, universitet och arbetsgivare som hoppas på ett enkelt tekniskt svar på AI-fusket behöver räkna med att tekniken har tydliga gränser.

Anthropic är inte ensamma om att arbeta med frågan. Google, OpenAI och flera europeiska forskningsinstitut har alla undersökt liknande metoder, och EU:s AI-förordning ställer krav på att AI-genererat innehåll ska kunna identifieras i vissa sammanhang.

Debatten om hur AI-text ska märkas och regleras fortsätter, och Claudes vattenstämpel är ett tidigt steg i en utveckling som sannolikt kommer att kräva både tekniska och juridiska lösningar för att få verklig effekt.