OpenAI începe marcarea etapizată a textului în conformitate cu regulile EU AI Act

OpenAI, pe 5 octombrie 2026, a prezentat abordarea sa privind marcajul de text în temeiul EU AI Act, deschizând marcajul de tip opt‑in pentru clienții API din întreaga lume și anunțând că marcajele invizibile vor fi adăugate la ieșirile de text eligibile ale ChatGPT și Codex în Uniunea Europeană în săptămânile următoare.

EU AI Act impune furnizorilor de IA generativă să facă textul generat identificabil într-un mod citibil de mașini. OpenAI a descris marcajul de text și detectarea acestuia ca tehnologii timpurii cu limitări semnificative și a declarat că abordarea sa etapizată reflectă atât cerințele legale, cât și aceste limitări.

Acces API tip Opt‑In și implementare regională în UE

Începând cu 5 octombrie 2026, clienții API din întreaga lume pot opta pentru marcajul de text pentru anumite modele, iar setarea rămâne dezactivată în mod implicit. OpenAI a declarat că designul opt‑in permite clienților să decidă cum se potrivește marcajul de text cu obligațiile lor de transparență și cu experiențele pe care le oferă utilizatorilor, și că lucrează cu partenerii de cloud pentru a face marcajul disponibil pentru ieșirile modelelor OpenAI accesate prin serviciile acestora în săptămânile următoare.

Pentru propriile produse, OpenAI va introduce marcajul de text pentru utilizatorii eligibili ChatGPT și Codex în toate planurile, numai în Uniunea Europeană, de asemenea în săptămânile următoare. Compania a declarat că nu va face marcajul de text implicit la nivel global la lansare și că abordarea regională îi va permite să învețe din utilizarea și feedback‑ul din viața reală.

OpenAI a deschis, de asemenea, aplicații pentru acces la detectorul său de marcaj de text pe 5 octombrie 2026. Accesul va fi inițial limitat la cercetători aprobați și organizații de expertiză, acordat caz cu caz în conformitate cu Codul de practică privind transparența conținutului generat de IA, pentru a sprijini evaluarea și îmbunătățirea provenancei textului. Anunțul se aplică numai textului: OpenAI a declarat că instrumentele sale de verificare pentru audio și imagini, inclusiv instrumentul web openai.com/verify și API‑ul Content Provenance, rămân accesibile public.

Cum funcționează textGrain

Tehnologia de marcaj a OpenAI, textGrain, încorporează un semnal statistic invizibil în cuvintele selectate de model, iar detectorul companiei testează un pasaj pentru acel semnal pentru a determina dacă conține un marcaj OpenAI. Un raport tehnic intitulat „textGrain: Entropy-Calibrated Watermarking for Language Model Text”, datat 5 octombrie 2026, enumeră autori afiliați la University of Pennsylvania, Yale University și OpenAI.

Conform raportului, metoda leagă generarea de tokeni de aleatorietate cheie prin rezolvarea unei probleme de transport optim al cărei costuri derivă din variabile aleatoare Gumbel, cu regularizare Kullback–Leibler care penalizează abaterile de la independență. Un buget de entropie limitează entropia medie de eșantionare cedată în schimbul semnalului de marcaj, iar raportul afirmă că penalizarea KL este exact egală cu entropia medie pe care marcajul o elimină, conferind parametrului de forță o semnificație informațional‑teoretică directă. Aplicarea pasului de transport la blocuri cheie de tokeni de vocabular reduce dimensiunea optimizării menținând probabilitățile relative ale tokenilor în fiecare bloc neschimbate. Detectorul are nevoie doar de textul generat și de cheia secretă, nu și de bugetul de entropie utilizat în timpul generării.

OpenAI a declarat că intenționează să lanseze tehnologia ca open source pentru ca alții să poată construi pe baza ei și că raportul va fi actualizat cu detalii suplimentare în săptămânile următoare.

Performanța detectării și limitările declarate

OpenAI raportează că în evaluările sale textGrain a egalat sau depășit performanța altor abordări testate, inclusiv SynthID pentru text, avertizând totuși că o performanță puternică în condiții ideale nu garantează detectarea fiabilă în utilizarea de zi cu zi.

La o rată țintă de fals pozitiv de 1%, detectorul a identificat marcaje în aproximativ 80% din pasajele de 200 de tokeni și în aproximativ 95% din pasajele de 400 de tokeni pentru conținut precum psihologia, a raportat OpenAI, cu rate substanțial mai mici pentru conținut precum matematica, unde alegerea cuvintelor este mai puțin flexibilă. Într-o evaluare a pasajelor de 400 de tokeni, înlocuirea a 10% din cuvinte cu sinonime a redus detectarea de la aproximativ 92% la 66%, iar înlocuirea a 25% din cuvinte a scăzut-o la 17%. Evaluările au folosit răspunsuri în engleză marcate la text pentru întrebări din setul de date ELI5.

În ceea ce privește calitatea ieșirii, OpenAI a declarat că, în cadrul benchmark‑urilor pe care le folosește pentru a evalua Astra, pe care o descrie ca fiind cel mai recent model frontier, nu observă diferențe semnificative de performanță între textul cu și fără marcaj. Tabelul său publicat raportează, pentru textul nemarcat și, respectiv, marcat, 49,57 și 49,76 puncte pe Artificial Analysis Intelligence Index și 94,44% și 93,94% pe GPQA Diamond. OpenAI a afirmat că limitările de detectare au contribuit la decizia de a restricționa accesul inițial la detector pentru cercetătorii aprobați și organizațiile de expertiză.

Ce nu stabilește un marcaj

OpenAI afirmă că o filigrană de text oferă un semnal limitat privind rolul pe care sistemele sale l-au jucat într-un pasaj. O filigrană nu măsoară contribuția umană, nu stabilește proprietatea sau responsabilitatea, nu identifică utilizatorul și nu verifică acuratețea, declară compania. De asemenea, afirmă că absența unei filigrane detectate nu dovedește autorul uman, deoarece textul poate fi prea scurt, editat sau tradus pentru o detectare fiabilă, poate proveni de la un model neacceptat, poate preceda introducerea filigranelor sau poate fi generat de instrumentele altei companii.

Detectorul va raporta dacă detectează o filigrană OpenAI fără a identifica utilizatorul sau a dezvălui prompturile sau conversațiile acestuia. Având în vedere riscul de filigrane ratate și de rezultate fals pozitive, OpenAI nu va pune la dispoziție public instrumentul la lansare.

Obligații de transparență ale UE

Obligațiile de transparență prevăzute de articolul 50 din Legea AI, care acoperă marcarea și detectarea conținutului generat de IA și etichetarea deepfake‑urilor și a anumitor publicații generate de IA, intră în vigoare începând cu 2 august 2026. Code of Practice on Transparency of AI-generated Content a fost elaborat de experți independenți într-un proces cu multiple părți interesate, facilitat de AI Office, iar codul final a fost publicat pe 10 iunie 2026.

Respectarea codului este voluntară, însă cerințele de transparență din articolul 50 sunt obligații legale. Comisia și Consiliul AI au confirmat că codul reprezintă un instrument voluntar adecvat pentru demonstrarea conformității, iar aproximativ 190 de companii și organizații semnaseră codul până la sfârșitul lui iulie 2026, potrivit Comisiei.

OpenAI a declarat că va continua să îmbunătățească detectarea, să studieze modul în care filigranele rezistă la editare și traducere și să exploreze modalități de a diferenția asistența IA de autoratul IA, și că va extinde accesul la detector atunci când consideră că rezultatele pot fi interpretate în mod responsabil.