OpenAI vattenstämplar AI-genererade texter i EU

Vattenstämpeln syns inte men följer med texten

Märkningen är inte en synlig symbol utan är inbäddad i de ordmönster som ChatGPT använder när den genererar eller bearbetar text. Det innebär att vattenstämpeln följer med texten även om den kopieras och klistras in på andra ställen.

Funktionen rullas ut stegvis under de kommande veckorna, uppger OpenAI i ett blogginlägg. Enligt bolaget indikerar vattenstämpeln att ett OpenAI-system har "genererat eller bearbetat delar" av texten, men den kan inte mäta hur stort det mänskliga bidraget är.

Tekniken har tydliga begränsningar

Systemet är inte felfritt. I OpenAIs egna tester försvagas vattenstämpeln redan vid relativt lite redigering av texten. I korta texter är den dessutom svårare att upptäcka överhuvudtaget.

Det gör att vattenstämpeln fungerar bättre som ett indikativt verktyg än som ett tillförlitligt bevis på AI-genererat innehåll. Tekniken ger alltså ingen garanti för att märkningen håller om en text bearbetas manuellt efter att den genererats.

Bakgrunden till lanseringen är att EU:s AI-förordning ställer krav på transparens kring AI-genererat innehåll, krav som trädde i kraft i augusti i år, skriver Techcrunch. OpenAI är ett av de första stora AI-bolagen att implementera textbaserad vattenstämpling som ett svar på den lagstiftningen.