OpenAI vannmerker ChatGPT-tekst i EU, men lar API-kunder velge selv

«Sterk ytelse under ideelle forhold garanterer ikke pålitelig deteksjon i hverdagsbruk», skriver OpenAI om sin egen vannmerketeknologi textGrain. Den legger et usynlig statistisk signal i modellens ordvalg, og innføres for å oppfylle EUs AI Act, som krever at KI-generert tekst er maskinlesbart merket. Over de kommende ukene får ChatGPT- og Codex-brukere på alle abonnement i EU vannmerket tekst, men OpenAI gjør det ikke til global standard.

I API-et kan kunder over hele verden velge vannmerking fra mandag av for utvalgte modeller, men det er av som standard. Ifølge The Decoder er det motsatt av Anthropic, som vannmerker all Claude-tekst globalt uansett tilgangsvei. OpenAI skriver «EU», ikke EØS, så det er foreløpig uklart om norske ChatGPT-brukere omfattes.

OpenAIs egne tall viser hvor skjørt signalet er. Ved en mål-rate på 1 % falske positiver:

For matematisk innhold, der modellen har lite valgfrihet i ordvalg, var deteksjonen ifølge OpenAI vesentlig lavere. Selskapet rapporterer ingen meningsfulle forskjeller med og uten vannmerke på åtte benchmarks for frontmodellen Astra, og vil slippe textGrain som åpen kildekode. Detektoren gis foreløpig bare til godkjente forskere og fagmiljøer, fordi den både kan bomme på vannmerker og flagge umerket tekst.

For deg som bygger på OpenAI-API-et i Europa betyr det at du selv må vurdere om merkeplikten i AI Act gjelder tjenesten din: OpenAI leverer verktøyet, men slår det ikke på for deg.