OpenAI start gefaseerde tekstwatermerken onder de regels van de EU AI Act

OpenAI heeft op 5 oktober 2026 zijn aanpak van tekstwatermerken uiteengezet onder de EU AI Act, waarbij opt-in watermerken voor API-klanten wereldwijd worden geopend en wordt aangekondigd dat onzichtbare watermerken in de komende weken aan in aanmerking komende ChatGPT- en Codex-tekstoutput in de Europese Unie zullen worden toegevoegd.

De EU AI Act verplicht aanbieders van generatieve AI om gegenereerde tekst op een machineleesbare manier identificeerbaar te maken. OpenAI beschreef tekstwatermerken en detectie als vroege technologieën met aanzienlijke beperkingen, en stelde dat haar gefaseerde aanpak zowel de wettelijke vereisten als die beperkingen weerspiegelt.

Opt-in API-toegang en regionale EU-uitrol

Vanaf 5 oktober 2026 kunnen API-klanten wereldwijd zich aanmelden voor tekstwatermerken voor geselecteerde modellen, en de instelling blijft standaard uitgeschakeld. OpenAI zei dat het opt-in‑ontwerp klanten in staat stelt te bepalen hoe watermerken passen binnen hun transparantie‑verplichtingen en de ervaringen die ze aan gebruikers bieden, en dat ze samenwerken met cloud‑partners om watermerken beschikbaar te maken voor OpenAI‑modeluitvoer die via hun diensten wordt benaderd in de komende weken.

Voor haar eigen producten zal OpenAI tekstwatermerken introduceren voor in aanmerking komende ChatGPT‑ en Codex‑gebruikers in alle abonnementen, uitsluitend in de Europese Unie, eveneens in de komende weken. Het bedrijf verklaarde dat het tekstwatermerken niet wereldwijd als standaard bij de lancering zal instellen en dat de regionale aanpak het mogelijk maakt om te leren van gebruik in de praktijk en feedback.

OpenAI heeft ook op 5 oktober 2026 aanvragen geopend voor toegang tot haar tekstwatermerkdetector. Toegang zal aanvankelijk beperkt zijn tot goedgekeurde onderzoekers en deskundige organisaties, per geval verleend in overeenstemming met de EU‑Code of Practice on transparency of AI-generated content, ter ondersteuning van de evaluatie en verbetering van tekst‑herkomst. De aankondiging geldt alleen voor tekst: OpenAI zei dat haar verificatietools voor audio en afbeeldingen, inclusief de openai.com/verify‑webtool en de Content Provenance‑API, publiekelijk toegankelijk blijven.

Hoe textGrain werkt

De watermerktechnologie van OpenAI, textGrain, voegt een onzichtbaar statistisch signaal toe aan de woorden die een model selecteert, en de detector van het bedrijf test een passage op dat signaal om te beoordelen of deze een OpenAI‑watermerk bevat. Een technisch rapport met de titel “textGrain: Entropy-Calibrated Watermarking for Language Model Text,” gedateerd 5 oktober 2026, vermeldt auteurs die verbonden zijn aan de University of Pennsylvania, Yale University en OpenAI.

Volgens het rapport koppelt de methode token‑generatie aan sleutel‑randomness door een optimal transport‑probleem op te lossen waarvan de kosten voortkomen uit Gumbel‑willekeurige variabelen, met Kullback–Leibler‑regularisatie die afwijkingen van onafhankelijkheid bestraft. Een entropiebudget beperkt de gemiddelde steekproef‑entropie die wordt opgegeven in ruil voor het watermerksignaal, en het rapport stelt dat de KL‑straffactor precies gelijk is aan de gemiddelde entropie die het watermerk verwijdert, waardoor de sterkte‑parameter een directe informatie‑theoretische betekenis krijgt. Het toepassen van de transportstap op sleutel‑blokken van vocabulaire‑tokens verkleint de optimalisatiegrootte terwijl de relatieve token‑kansen binnen elk blok ongewijzigd blijven. De detector heeft alleen de gegenereerde tekst en de geheime sleutel nodig, niet het entropiebudget dat tijdens de generatie werd gebruikt.

OpenAI zei dat ze van plan is de technologie als open source uit te brengen zodat anderen erop kunnen voortbouwen, en dat het rapport in de komende weken zal worden bijgewerkt met aanvullende details.

Detectieprestaties en genoemde beperkingen

OpenAI meldt dat in haar evaluaties textGrain gelijk of beter presteerde dan andere benaderingen die ze testten, waaronder SynthID voor tekst, terwijl ze waarschuwt dat sterke prestaties onder ideale omstandigheden geen garantie bieden voor betrouwbare detectie in alledaags gebruik.

Bij een beoogde false‑positive‑rate van 1% identificeerde de detector watermerken in ongeveer 80% van de 200‑token‑passages en ongeveer 95% van de 400‑token‑passages voor content zoals psychologie, meldde OpenAI, met aanzienlijk lagere percentages voor content zoals wiskunde, waar de woordkeuze minder flexibel is. In een evaluatie van 400‑token‑passages verminderde het vervangen van 10% van de woorden door synoniemen de detectie van ongeveer 92% naar 66%, en het vervangen van 25% van de woorden verminderde deze tot 17%. De evaluaties maakten gebruik van watermerkde Engelse antwoorden op vragen uit de ELI5‑dataset.

Wat de outputkwaliteit betreft, zei OpenAI dat het in de benchmarks die ze gebruikt om Astra te beoordelen, het nieuwste frontier‑model, geen significante prestatieverschillen ziet met en zonder watermerken. De gepubliceerde tabel meldt respectievelijk 49,57 en 49,76 punten op de Artificial Analysis Intelligence Index voor ongewatermerkte en watermerkte tekst, en 94,44 % en 93,94 % op GPQA Diamond. OpenAI verklaarde dat de detectiebeperkingen hebben bijgedragen aan de beslissing om de initiële toegang tot de detector te beperken tot goedgekeurde onderzoekers en deskundige organisaties.

Wat een watermerk niet vaststelt

OpenAI stelt dat een tekstwatermerk een beperkt signaal geeft over de rol die haar systemen in een passage hebben gespeeld. Een watermerk meet geen menselijke bijdrage, stelt geen eigendom of verantwoordelijkheid vast, identificeert de gebruiker niet en verifieert de nauwkeurigheid niet, aldus het bedrijf. Het stelt ook dat de afwezigheid van een gedetecteerd watermerk geen menselijk auteurschap bewijst, omdat de tekst te kort, bewerkt of vertaald kan zijn voor betrouwbare detectie, afkomstig kan zijn van een niet‑ondersteund model, vóór het watermerken kan zijn geschreven, of gegenereerd kan zijn door de tools van een ander bedrijf.

De detector zal melden of hij een OpenAI‑watermerk detecteert zonder de gebruiker te identificeren of hun prompts of gesprekken te onthullen. Gezien het risico op gemiste watermerken en valse positieven, maakt OpenAI de tool bij de lancering niet publiek beschikbaar.

EU‑transparantieverplichtingen

De transparantie‑verplichtingen volgens artikel 50 van de AI‑wet, die het markeren en detecteren van AI‑gegenereerde inhoud en de labeling van deepfakes en bepaalde AI‑gegenereerde publicaties omvatten, gelden vanaf 2 augustus 2026. De Code of Practice on Transparency of AI-generated Content werd opgesteld door onafhankelijke experts in een multi‑stakeholderproces gefaciliteerd door het AI‑kantoor, waarbij de definitieve code op 10 juni 2026 werd gepubliceerd.

Naleving van de code is vrijwillig, maar de transparantie‑eisen van artikel 50 zijn wettelijke verplichtingen. De Commissie en de AI‑raad hebben bevestigd dat de code een adequaat vrijwillig instrument is om naleving aan te tonen, en volgens de Commissie hadden tegen eind juli 2026 ongeveer 190 bedrijven en organisaties de code ondertekend.

OpenAI zei dat het de detectie zal blijven verbeteren, zal onderzoeken hoe watermerken bestand zijn tegen bewerking en vertaling, en manieren zal verkennen om AI‑ondersteuning te onderscheiden van AI‑auteurschap, en dat het de toegang tot de detector zal uitbreiden wanneer het gelooft dat de resultaten verantwoord kunnen worden geïnterpreteerd.