OpenAI begynder trinvis tekstvandmærkning under EU AI Act-reglerne

OpenAI den 5. oktober 2026 fremlagde sin tilgang til tekstvandmærkning under EU AI Act, åbnede muligheden for valgfrivillig vandmærkning for API‑kunder verden over og annoncerede, at usynlige vandmærker vil blive tilføjet til berettiget ChatGPT‑ og Codex‑tekstoutput i EU i løbet af de kommende uger.

EU AI Act kræver, at leverandører af generativ AI gør genereret tekst identificerbar på en maskinlæsbar måde. OpenAI beskrev tekstvandmærkning og -detektion som tidlige teknologier med betydelige begrænsninger og sagde, at deres trinvis tilgang afspejler både de lovmæssige krav og disse begrænsninger.

Valgfri API‑adgang og regional EU‑udrulning

Fra den 5. oktober 2026 kan API‑kunder verden over vælge at aktivere tekstvandmærkning for udvalgte modeller, og indstillingen er som standard deaktiveret. OpenAI sagde, at den valgfrie udformning giver kunderne mulighed for at beslutte, hvordan vandmærkning passer ind i deres gennemsigtighedsforpligtelser og de oplevelser, de leverer til brugerne, og at de arbejder sammen med cloud‑partnere om at gøre vandmærkning tilgængelig for OpenAI‑modeloutput, der tilgås via deres tjenester, i løbet af de kommende uger.

For sine egne produkter vil OpenAI indføre tekstvandmærkning for berettigede ChatGPT‑ og Codex‑brugere på alle abonnementer, men kun i Den Europæiske Union, også i de kommende uger. Virksomheden sagde, at den ikke gør tekstvandmærkning til en global standard ved lanceringen, og at den regionale tilgang vil give mulighed for at lære af brug i den virkelige verden og feedback.

OpenAI åbnede også ansøgninger om adgang til sin tekstvandmærkedetektor den 5. oktober 2026. Adgangen vil i første omgang være begrænset til godkendte forskere og ekspertorganisationer, tildelt fra sag til sag i overensstemmelse med EU’s Kodeks for praksis om gennemsigtighed af AI‑genereret indhold, for at understøtte evaluering og forbedring af tekstoprindelse. Meddelelsen gælder kun tekst: OpenAI sagde, at deres verifikationsværktøjer for lyd og billeder, herunder openai.com/verify‑webværktøjet og Content Provenance API, forbliver offentligt tilgængelige.

Sådan fungerer textGrain

OpenAI’s vandmærkningsteknologi, textGrain, indlejrer et usynligt statistisk signal i de ord, en model vælger, og virksomhedens detektor tester et afsnit for dette signal for at vurdere, om det indeholder et OpenAI‑vandmærke. En teknisk rapport med titlen “textGrain: Entropy-Calibrated Watermarking for Language Model Text,” dateret den 5. oktober 2026, opregner forfattere tilknyttet University of Pennsylvania, Yale University og OpenAI.

Ifølge rapporten binder metoden token‑generering til nøglebaseret tilfældighed ved at løse et optimal‑transport‑problem, hvor omkostningerne stammer fra Gumbel‑tilfældige variable, med Kullback–Leibler‑regularisering, der straffer afvigelser fra uafhængighed. Et entropibudget begrænser den gennemsnitlige prøvetagnings‑entropi, der opgives i bytte for vandmærkesignalet, og rapporten angiver, at KL‑straffen er præcis den gennemsnitlige entropi, vandmærket fjerner, hvilket giver styrkeparameteren en direkte informationsteoretisk betydning. Anvendelse af transporttrinnet på nøgleblokke af ordforrådstokens reducerer optimeringens størrelse, mens de relative token‑sandsynligheder inden for hver blok forbliver uændrede. Detektoren har kun brug for den genererede tekst og den hemmelige nøgle og ikke entropibudgettet, der blev brugt under genereringen.

OpenAI sagde, at de planlægger at frigive teknologien som open source, så andre kan bygge videre på den, og at rapporten vil blive opdateret med yderligere detaljer i de kommende uger.

Detektionspræstation og angivne begrænsninger

OpenAI rapporterer, at textGrain i deres evalueringer matchede eller overgik præstationen af andre tilgange, de testede, herunder SynthID for tekst, mens de advarer om, at stærk præstation under ideelle forhold ikke garanterer pålidelig detektion i daglig brug.

Ved en målrettet falsk‑positiv‑rate på 1 % identificerede detektoren vandmærker i omkring 80 % af 200‑token‑afsnit og omkring 95 % af 400‑token‑afsnit for indhold som psykologi, rapporterede OpenAI, med væsentligt lavere satser for indhold som matematik, hvor ordvalget er mindre fleksibelt. I en evaluering af 400‑token‑afsnit reducerede udskiftning af 10 % af ordene med synonymer detektionen fra omkring 92 % til 66 %, og udskiftning af 25 % af ordene reducerede den til 17 %. Evalueringerne benyttede vandmærkede engelske svar på spørgsmål fra ELI5‑datasættet.

Ved outputkvalitet sagde OpenAI, at på tværs af de benchmarks, de bruger til at vurdere Astra, som de beskriver som deres seneste frontier‑model, ser de ingen væsentlige præstationsforskelle med og uden vandmærkning. Deres offentliggjorte tabel viser, for henholdsvis uvandmærket og vandmærket tekst, 49.57 og 49.76 point på Artificial Analysis Intelligence Index samt 94.44% og 93.94% på GPQA Diamond. OpenAI sagde, at detektionsbegrænsningerne bidrog til beslutningen om at begrænse den indledende adgang til detektoren til godkendte forskere og ekspertorganisationer.

Hvad et vandmærke ikke fastslår

OpenAI oplyser, at et tekst‑vandmærke giver et begrænset signal om den rolle, deres systemer har spillet i et afsnit. Et vandmærke måler ikke menneskelig bidrag, fastslår ikke ejerskab eller ansvar, identificerer ikke brugeren og bekræfter ikke nøjagtighed, oplyser virksomheden. Det oplyser også, at fraværet af et påvist vandmærke ikke beviser menneskelig forfatterskab, fordi teksten kan være for kort, redigeret eller oversat til pålidelig detektion, kan komme fra en model, der ikke understøtter vandmærker, kan være ældre end vandmærkning, eller kan være genereret af et andet firmas værktøjer.

Detektoren vil rapportere, om den opdager et OpenAI‑vandmærke uden at identificere brugeren eller afsløre deres prompts eller samtaler. På grund af risikoen for missede vandmærker og falske positiver gør OpenAI værktøjet ikke offentligt tilgængeligt ved lanceringen.

EU‑krav om gennemsigtighed

Denne gennemsigtighedsforpligtelse i henhold til artikel 50 i AI‑forordningen, som omfatter mærkning og detektion af AI‑genereret indhold samt mærkning af deepfakes og visse AI‑genererede publikationer, træder i kraft den 2. august 2026. Code of Practice on Transparency of AI-generated Content blev udarbejdet af uafhængige eksperter i en multi‑interessentproces faciliteret af AI‑kontoret, med den endelige kode offentliggjort den 10. juni 2026.

Overholdelse af koden er frivillig, men artikel 50‑kravene om gennemsigtighed er juridiske forpligtelser. Kommissionen og AI‑rådet har bekræftet, at koden er et tilstrækkeligt frivilligt værktøj til at demonstrere overholdelse, og omkring 190 virksomheder og organisationer havde underskrevet koden ved udgangen af juli 2026, ifølge Kommissionen.

OpenAI sagde, at de vil fortsætte med at forbedre detektionen, undersøge hvordan vandmærker holder til redigering og oversættelse, og udforske måder at skelne AI‑assistance fra AI‑forfatterskab, samt at de vil udvide adgang til detektoren, når de mener, at resultaterne kan fortolkes ansvarligt.