OpenAI avvia il watermarking testuale a tappe secondo le norme dell’EU AI Act

OpenAI, il 5 ottobre 2026, ha illustrato il suo approccio al watermarking del testo ai sensi del EU AI Act, aprendo il watermarking su base opt-in ai clienti API di tutto il mondo e annunciando che nei prossimi settimane verranno aggiunti watermark invisibili ai testi idonei di ChatGPT e Codex nell’Unione Europea.

Il EU AI Act richiede ai fornitori di IA generativa di rendere il testo generato identificabile in modo leggibile dalle macchine. OpenAI ha descritto il watermarking testuale e la relativa rilevazione come tecnologie preliminari con limitazioni significative, affermando che il suo approccio a tappe riflette sia i requisiti legali sia tali limiti.

Accesso API su base opt-in e distribuzione regionale nell’UE

A partire dal 5 ottobre 2026, i clienti API di tutto il mondo possono attivare su base opt-in il watermarking del testo per modelli selezionati, e l’impostazione rimane disattivata per impostazione predefinita. OpenAI ha dichiarato che il design opt-in consente ai clienti di decidere come il watermarking si integri nei loro obblighi di trasparenza e nelle esperienze offerte agli utenti, e che sta collaborando con i partner cloud per rendere il watermarking disponibile per le uscite dei modelli OpenAI accessibili tramite i loro servizi nelle prossime settimane.

Per i propri prodotti, OpenAI introdurrà il watermarking del testo per gli utenti idonei di ChatGPT e Codex in tutti i piani, ma solo nell’Unione Europea, anche nelle prossime settimane. L’azienda ha affermato di non rendere il watermarking del testo un’impostazione predefinita a livello globale al lancio e che l’approccio regionale le consentirà di apprendere dall’uso reale e dal feedback.

OpenAI ha inoltre aperto le domande per l’accesso al suo rilevatore di watermark testuali il 5 ottobre 2026. L’accesso sarà inizialmente limitato a ricercatori approvati e organizzazioni esperte, concessi caso per caso in conformità con il Codice di Condotta sulla trasparenza dei contenuti generati dall’IA, per supportare la valutazione e il miglioramento della provenienza del testo. L’annuncio si applica solo al testo: OpenAI ha dichiarato che i suoi strumenti di verifica per audio e immagini, inclusi lo strumento web openai.com/verify e l’API Content Provenance, rimangono accessibili al pubblico.

Come funziona textGrain

La tecnologia di watermarking di OpenAI, textGrain, incorpora un segnale statistico invisibile nelle parole selezionate da un modello, e il rilevatore dell’azienda analizza un brano alla ricerca di tale segnale per valutare se contiene un watermark OpenAI. Un rapporto tecnico intitolato “textGrain: Entropy-Calibrated Watermarking for Language Model Text,” datato 5 ottobre 2026, elenca autori affiliati alla University of Pennsylvania, alla Yale University e a OpenAI.

Secondo il rapporto, il metodo collega la generazione dei token a una casualità chiave risolvendo un problema di trasporto ottimale i cui costi derivano da variabili casuali Gumbel, con una regolarizzazione di Kullback–Leibler che penalizza le deviazioni dall’indipendenza. Un budget di entropia limita l’entropia media di campionamento ceduta in cambio del segnale di watermark, e il rapporto afferma che la penalità KL equivale esattamente all’entropia media rimossa dal watermark, conferendo al parametro di forza un significato diretto in termini informativi. L’applicazione del passaggio di trasporto a blocchi chiave di token di vocabolario riduce la dimensione dell’ottimizzazione mantenendo inalterate le probabilità relative dei token all’interno di ciascun blocco. Il rilevatore necessita solo del testo generato e della chiave segreta, non del budget di entropia impiegato durante la generazione.

OpenAI ha dichiarato di prevedere di rilasciare la tecnologia come open source affinché altri possano svilupparla, e che il rapporto sarà aggiornato con ulteriori dettagli nelle prossime settimane.

Prestazioni di rilevamento e limitazioni dichiarate

OpenAI riferisce che nelle sue valutazioni textGrain ha eguagliato o superato le prestazioni di altri approcci testati, inclusi SynthID per il testo, pur avvertendo che un’ottima performance in condizioni ideali non garantisce un rilevamento affidabile nell’uso quotidiano.

Con un tasso di falsi positivi target dell’1 %, il rilevatore ha identificato watermark in circa l’80 % dei brani di 200 token e circa il 95 % dei brani di 400 token per contenuti come la psicologia, ha riportato OpenAI, con tassi sostanzialmente più bassi per contenuti come la matematica, dove la scelta delle parole è meno flessibile. In una valutazione di brani di 400 token, la sostituzione del 10 % delle parole con sinonimi ha ridotto il rilevamento dall’≈ 92 % al 66 %, e la sostituzione del 25 % delle parole lo ha portato al 17 %. Le valutazioni hanno utilizzato risposte in inglese watermarked a domande del dataset ELI5.

Per quanto riguarda la qualità dell’output, OpenAI ha affermato che nei benchmark utilizzati per valutare Astra, che descrive come il suo modello di frontiera più recente, non osserva differenze di prestazione significative con e senza watermarking. La sua tabella pubblicata riporta, per il testo non watermarked e watermarked rispettivamente, 49,57 e 49,76 punti sull’Artificial Analysis Intelligence Index e 94,44 % e 93,94 % su GPQA Diamond. OpenAI ha dichiarato che le limitazioni di rilevamento hanno contribuito alla decisione di limitare l’accesso iniziale al rilevatore a ricercatori approvati e organizzazioni esperte.

Cosa non stabilisce un watermark

OpenAI afferma che un watermark testuale fornisce un segnale limitato sul ruolo svolto dai suoi sistemi in un passaggio. Un watermark non misura il contributo umano, non stabilisce la proprietà o la responsabilità, non identifica l’utente e non verifica l’accuratezza, dichiara l’azienda. Afferma inoltre che l’assenza di un watermark rilevato non dimostra la paternità umana, poiché il testo può essere troppo breve, modificato o tradotto per una rilevazione affidabile, può provenire da un modello non supportato, può precedere l’introduzione dei watermark o può essere stato generato dagli strumenti di un’altra azienda.

Il rilevatore segnalerà se rileva un watermark di OpenAI senza identificare l’utente né rivelare i loro prompt o conversazioni. Data la possibilità di mancati rilevamenti e falsi positivi, OpenAI non renderà lo strumento disponibile al pubblico al lancio.

Obblighi di Trasparenza dell’UE

Gli obblighi di trasparenza ai sensi dell’Articolo 50 del Regolamento sull’IA, che includono la marcatura e la rilevazione dei contenuti generati dall’IA e l’etichettatura di deepfake e di alcune pubblicazioni generate dall’IA, entreranno in vigore dal 2 agosto 2026. Il Code of Practice on Transparency of AI-generated Content è stato redatto da esperti indipendenti in un processo multipartitico facilitato dall’AI Office, con il codice finale pubblicato il 10 giugno 2026.

Il rispetto del codice è volontario, ma i requisiti di trasparenza dell’Articolo 50 sono obblighi legali. La Commissione e il Consiglio dell’IA hanno confermato che il codice è uno strumento volontario adeguato per dimostrare la conformità, e circa 190 aziende e organizzazioni avevano firmato il codice entro la fine di luglio 2026, secondo la Commissione.

OpenAI ha dichiarato che continuerà a migliorare la rilevazione, studiando come i watermark resistono a modifiche e traduzioni, e esplorando modi per distinguere l’assistenza dell’IA dall’autorialità dell’IA, e che amplierà l’accesso al rilevatore quando riterrà che i risultati possano essere interpretati in modo responsabile.