OpenAI rozpoczyna etapowe znakowanie tekstu w ramach ustawy EU AI Act

OpenAI 5 października 2026 r. przedstawiło swoje podejście do znakowania tekstu w ramach EU AI Act, otwierając możliwość dobrowolnego znakowania dla klientów API na całym świecie oraz ogłaszając, że niewidzialne znaki wodne zostaną dodane do kwalifikujących się wyjść tekstowych ChatGPT i Codex w Unii Europejskiej w ciągu najbliższych tygodni.

Ustawa EU AI Act wymaga od dostawców generatywnej SI, aby generowany tekst był możliwy do zidentyfikowania w sposób czytelny dla maszyn. OpenAI opisało znakowanie tekstu i jego wykrywanie jako wczesne technologie o istotnych ograniczeniach oraz stwierdziło, że jego etapowe podejście odzwierciedla zarówno wymogi prawne, jak i te ograniczenia.

Dobrowolny dostęp API i regionalne wdrożenie w UE

Od 5 października 2026 r. klienci API na całym świecie mogą dobrowolnie włączyć znakowanie tekstu dla wybranych modeli, a ustawienie domyślnie pozostaje wyłączone. OpenAI stwierdziło, że projekt oparty na dobrowolnym włączeniu pozwala klientom zdecydować, jak znakowanie wpisuje się w ich obowiązki dotyczące przejrzystości oraz w doświadczenia, które zapewniają użytkownikom, oraz że współpracuje z partnerami chmurowymi, aby udostępnić znakowanie wyników modeli OpenAI dostępnych poprzez ich usługi w ciągu najbliższych tygodni.

W przypadku własnych produktów OpenAI wprowadzi znakowanie tekstu dla kwalifikujących się użytkowników ChatGPT i Codex we wszystkich planach wyłącznie w Unii Europejskiej, również w ciągu najbliższych tygodni. Firma zaznaczyła, że nie wprowadza znakowania tekstu jako globalnego domyślnego ustawienia przy uruchomieniu i że regionalne podejście pozwoli jej uczyć się na podstawie rzeczywistego użycia i opinii.

OpenAI również otworzyło wnioski o dostęp do swojego detektora znaków wodnych w tekście 5 października 2026 r. Dostęp będzie początkowo ograniczony do zatwierdzonych badaczy i organizacji eksperckich, przyznawany indywidualnie zgodnie z Kodeksem Praktyk dotyczących przejrzystości treści generowanych przez SI, w celu wsparcia oceny i ulepszania pochodzenia tekstu. Ogłoszenie dotyczy wyłącznie tekstu: OpenAI poinformowało, że jego narzędzia weryfikacyjne dla dźwięku i obrazów, w tym narzędzie internetowe openai.com/verify oraz Content Provenance API, pozostają publicznie dostępne.

Jak działa textGrain

Technologia znakowania OpenAI, textGrain, osadza niewidzialny sygnał statystyczny w słowach wybieranych przez model, a detektor firmy testuje fragment pod kątem tego sygnału, aby ocenić, czy zawiera znak OpenAI. raport techniczny zatytułowany „textGrain: Entropy-Calibrated Watermarking for Language Model Text”, datowany na 5 października 2026 r., wymienia autorów powiązanych z University of Pennsylvania, Yale University i OpenAI.

Według raportu metoda łączy generowanie tokenów z kluczową losowością poprzez rozwiązanie problemu optymalnego transportu, którego koszty pochodzą od zmiennych losowych Gumbela, przy czym regularyzacja Kullbacka‑Leiblera karze odchylenia od niezależności. Budżet entropii ogranicza średnią entropię próbkowania poświęcaną w zamian za sygnał znaku wodnego, a raport stwierdza, że kara KL jest równa dokładnie średniej entropii usuwanej przez znak wodny, nadając parametrowi siły bezpośrednie znaczenie informacyjne. Zastosowanie kroku transportowego do kluczowych bloków tokenów słownikowych zmniejsza rozmiar optymalizacji, zachowując niezmienione względne prawdopodobieństwa tokenów w każdym bloku. Detektor potrzebuje jedynie wygenerowanego tekstu i tajnego klucza, a nie budżetu entropii używanego podczas generacji.

OpenAI poinformowało, że planuje udostępnić technologię jako otwarte oprogramowanie, aby inni mogli na niej budować, oraz że raport zostanie zaktualizowany o dodatkowe szczegóły w ciągu najbliższych tygodni.

Wydajność wykrywania i podane ograniczenia

OpenAI informuje, że w swoich ocenach textGrain dorównał lub przewyższył wyniki innych testowanych metod, w tym SynthID dla tekstu, jednocześnie ostrzegając, że wysokie wyniki w idealnych warunkach nie gwarantują niezawodnego wykrywania w codziennym użytkowaniu.

Przy docelowym wskaźniku fałszywych alarmów wynoszącym 1 % detektor zidentyfikował znaki wodne w około 80 % fragmentów o długości 200 tokenów i w około 95 % fragmentów o długości 400 tokenów dla treści takich jak psychologia, podało OpenAI, przy znacznie niższych wskaźnikach dla treści takich jak matematyka, gdzie wybór słów jest mniej elastyczny. W ocenie fragmentów o długości 400 tokenów, zastąpienie 10 % słów synonimami obniżyło wykrywalność z około 92 % do 66 %, a zastąpienie 25 % słów spowodowało spadek do 17 %. Oceny wykorzystały znakowane angielskie odpowiedzi na pytania z zestawu danych ELI5.

Jeśli chodzi o jakość wyjścia, OpenAI stwierdziło, że wśród benchmarków używanych do oceny Astra, którą opisuje jako swój najnowszy model graniczny, nie obserwuje istotnych różnic w wydajności z i bez znakowania. Opublikowana tabela podaje, że dla tekstu nieoznaczonego i oznaczonego kolejno, wyniki to 49,57 i 49,76 punktu w Artificial Analysis Intelligence Index oraz 94,44 % i 93,94 % w GPQA Diamond. OpenAI zaznaczyło, że ograniczenia wykrywania przyczyniły się do decyzji o ograniczeniu początkowego dostępu do detektora do zatwierdzonych badaczy i organizacji eksperckich.

Czego znak wodny nie ustala

OpenAI twierdzi, że znak wodny w tekście zapewnia ograniczony sygnał dotyczący roli, jaką jego systemy odegrały w danym fragmencie. Znak wodny nie mierzy wkładu człowieka, nie ustala własności ani odpowiedzialności, nie identyfikuje użytkownika i nie weryfikuje dokładności, jak podaje firma. Firma zaznacza również, że brak wykrytego znaku wodnego nie dowodzi autorstwa ludzkiego, ponieważ tekst może być zbyt krótki, edytowany lub przetłumaczony, aby umożliwić wiarygodne wykrycie, może pochodzić z niewspieranego modelu, może powstać przed wprowadzeniem znaków wodnych lub może zostać wygenerowany przez narzędzia innej firmy.

Detektor poinformuje, czy wykrywa znak wodny OpenAI, nie identyfikując użytkownika ani nie ujawniając jego poleceń ani rozmów. Ze względu na ryzyko pominiętych znaków wodnych i fałszywych alarmów, OpenAI nie udostępnia narzędzia publicznie przy uruchomieniu.

Obowiązki przejrzystości UE

Obowiązki przejrzystości wynikające z artykułu 50 ustawy o sztucznej inteligencji, obejmujące oznaczanie i wykrywanie treści generowanych przez SI oraz etykietowanie deepfake’ów i niektórych publikacji generowanych przez SI, obowiązują od 2 sierpnia 2026 r. Kodeks Praktyk Przejrzystości Treści Generowanych przez SI został opracowany przez niezależnych ekspertów w procesie wielostronnym prowadzonym przez Biuro ds. Sztucznej Inteligencji, a ostateczna wersja kodeksu została opublikowana 10 czerwca 2026 r.

Przestrzeganie kodeksu jest dobrowolne, ale wymogi przejrzystości z artykułu 50 stanowią obowiązki prawne. Komisja i Rada ds. Sztucznej Inteligencji potwierdziły, że kodeks jest odpowiednim dobrowolnym narzędziem do wykazania zgodności, a według Komisji pod koniec lipca 2026 r. około 190 firm i organizacji podpisało kodeks.

OpenAI oświadczyło, że będzie kontynuować udoskonalanie wykrywania, badając, jak znaki wodne wytrzymują edycję i tłumaczenie, oraz poszukiwać sposobów odróżnienia pomocy SI od autorstwa SI, a także rozszerzy dostęp do detektora, gdy uzna, że wyniki mogą być odpowiedzialnie interpretowane.