Reglering
OpenAI påbörjar fasindelad textvattenmärkning enligt EU AI Act-reglerna
Lägg till Unite.AI bland dina föredragna källor på Google
OpenAI den 5 oktober 2026 redogjorde för sin strategi för textvattenmärkning under EU AI Act, öppnade möjlighet för API‑kunder världen över att välja in vattenmärkning och meddelade att osynliga vattenmärken kommer att läggas till i berättigad ChatGPT‑ och Codex‑textoutput i Europeiska unionen under de kommande veckorna.
EU AI Act kräver att leverantörer av generativ AI gör genererad text identifierbar på ett maskinläsbart sätt. OpenAI beskrev textvattenmärkning och detektering som tidiga teknologier med betydande begränsningar, och sade att den fasindelade strategin speglar både de juridiska kraven och dessa begränsningar.
Valfri API‑åtkomst och regional utrullning i EU
Från den 5 oktober 2026 kan API‑kunder världen över välja att aktivera textvattenmärkning för utvalda modeller, och inställningen är som standard avstängd. OpenAI sade att den valfria designen låter kunderna bestämma hur vattenmärkning passar in i deras transparensåtaganden och de upplevelser de erbjuder användarna, och att de samarbetar med molnpartner för att göra vattenmärkning tillgänglig för OpenAI‑modellutdata som nås via deras tjänster under de kommande veckorna.
För sina egna produkter kommer OpenAI att införa textvattenmärkning för berättigade ChatGPT‑ och Codex‑användare i alla planer, enbart i Europeiska unionen, också under de kommande veckorna. Företaget sade att de inte gör textvattenmärkning till en global standard vid lanseringen och att den regionala strategin gör det möjligt att lära sig av verklig användning och återkoppling.
OpenAI öppnade även ansökningar om åtkomst till sin textvattenmärkningsdetektor den 5 oktober 2026. Åtkomsten kommer initialt att begränsas till godkända forskare och expertorganisationer, beviljad från fall till fall i enlighet med EU:s Code of Practice on transparency of AI-generated content, för att stödja utvärdering och förbättring av textursprung. Tillkännagivandet gäller endast text: OpenAI sade att deras verifieringsverktyg för ljud och bilder, inklusive webverktyget openai.com/verify och Content Provenance API, förblir offentligt tillgängliga.
Hur textGrain fungerar
OpenAIs vattenmärknings‑teknologi, textGrain, inbäddar en osynlig statistisk signal i de ord som en modell väljer, och företagets detektor testar ett avsnitt för den signalen för att avgöra om det bär en OpenAI‑vattenmärke. En teknisk rapport med titeln “textGrain: Entropy-Calibrated Watermarking for Language Model Text”, daterad 5 oktober 2026, listar författare med anknytning till University of Pennsylvania, Yale University och OpenAI.
Enligt rapporten knyter metoden token‑generering till nyckelstyrd slumpmässighet genom att lösa ett optimalt transportproblem vars kostnader härrör från Gumbel‑slumpvariabler, med Kullback–Leibler‑regularisering som bestraffar avvikelser från oberoende. En entropibudget begränsar den genomsnittliga samplingsentropin som ges upp i utbyte mot vattenmärkningssignalen, och rapporten anger att KL‑straffet exakt motsvarar den genomsnittliga entropi som vattenmärket tar bort, vilket ger styrningsparametern en direkt informationsteoretisk betydelse. Att tillämpa transportsteget på nyckelblock av vokabulärtokens minskar storleken på optimeringen samtidigt som relativa token‑sannolikheter inom varje block förblir oförändrade. Detektorn kräver endast den genererade texten och den hemliga nyckeln, och inte entropibudgeten som användes under genereringen.
OpenAI sade att de planerar att släppa teknologin som öppen källkod så att andra kan bygga vidare på den, och att rapporten kommer att uppdateras med ytterligare detaljer under de kommande veckorna.
Detekteringsprestanda och angivna begränsningar
OpenAI rapporterar att i sina utvärderingar matchade eller överträffade textGrain prestandan hos andra metoder som de testade, inklusive SynthID för text, samtidigt som de varnar för att stark prestanda under idealiska förhållanden inte garanterar pålitlig detektering i vardagligt bruk.
Vid en målsatt falsk‑positiv‑frekvens på 1 % identifierade detektorn vattenmärken i cirka 80 % av 200‑token‑avsnitt och cirka 95 % av 400‑token‑avsnitt för innehåll som psykologi, rapporterade OpenAI, med avsevärt lägre siffror för innehåll som matematik, där ordvalet är mindre flexibelt. I en utvärdering av 400‑token‑avsnitt minskade ersättning av 10 % av orden med synonymer detektionen från cirka 92 % till 66 %, och ersättning av 25 % av orden minskade den till 17 %. Utvärderingarna använde vattenmärkta engelska svar på frågor från ELI5‑datamängden.
När det gäller utdatakvalitet sade OpenAI att i de benchmarkar de använder för att utvärdera Astra, som de beskriver som deras senaste frontier‑modell, ser de inga meningsfulla prestandaskillnader med och utan vattenmärkning. Deras publicerade tabell visar, för respektive o‑vattenmärkt och vattenmärkt text, 49,57 respektive 49,76 poäng på Artificial Analysis Intelligence Index samt 94,44 % och 93,94 % på GPQA Diamond. OpenAI sade att detekteringsbegränsningarna bidrog till deras beslut att begränsa den initiala åtkomsten till detektorn till godkända forskare och expertorganisationer.
Vad ett vattenmärke inte fastställer
OpenAI uppger att ett textvattenmärke ger en begränsad signal om vilken roll deras system spelade i ett avsnitt. Ett vattenmärke mäter inte mänskligt bidrag, fastställer inte ägande eller ansvar, identifierar inte användaren och verifierar inte noggrannheten, enligt företaget. Det anges också att avsaknad av ett upptäckt vattenmärke inte bevisar mänskligt författarskap, eftersom texten kan vara för kort, redigerad eller översatt för pålitlig detektering, kan komma från en modell som inte stöds, kan föregå vattenmärkning, eller kan ha genererats av ett annat företags verktyg.
Detektorn kommer att rapportera om den upptäcker ett OpenAI‑vattenmärke utan att identifiera användaren eller avslöja deras prompts eller konversationer. Med tanke på risken för missade vattenmärken och falska positiva, gör OpenAI verktyget inte offentligt tillgängligt vid lanseringen.
EU:s transparensskyldigheter
Transparensskyldigheterna enligt artikel 50 i AI‑lagen, som omfattar märkning och detektering av AI‑genererat innehåll samt märkning av deepfakes och vissa AI‑genererade publikationer, träder i kraft den 2 augusti 2026. Code of Practice on Transparency of AI-generated Content utarbetades av oberoende experter i en multi‑intressentprocess som faciliterades av AI‑kontoret, och den slutgiltiga koden publicerades den 10 juni 2026.
Efterlevnad av koden är frivillig, men artikel 50:s transparenskrav är juridiska skyldigheter. Kommissionen och AI‑rådet har bekräftat att koden är ett adekvat frivilligt verktyg för att visa efterlevnad, och omkring 190 företag och organisationer hade undertecknat koden i slutet av juli 2026, enligt kommissionen.
OpenAI sade att de kommer att fortsätta förbättra detektering, studera hur vattenmärken står emot redigering och översättning, samt utforska sätt att särskilja AI‑assistans från AI‑författarskap, och att de kommer att utöka tillgången till detektorn när de anser att resultaten kan tolkas ansvarsfullt.
