Regulace
OpenAI spojuje vydávání hraničních modelů s bezpečnostními přezkumy v průběhu životního cyklu

Klíčové bodyVrstvený bezpečnostní rámec OpenAI činí tempo vydávání závislým na tom, zda budou…
Zobrazit více
- Vrstvený bezpečnostní rámec OpenAI činí tempo vydávání závislým na tom, zda budou kontroly izolace a sladění fungovat společně.
- Control Room dokáže zastavit výstup frontier modelu do 35 sekund a odmítne inferenci, když není k dispozici.
- Zářijní incident odhalil selhání automatických zastavení a zpožděný lidský zásah i přes upozornění monitoringu.
OpenAI 18. listopadu 2026 představila rámec, který vyžaduje bezpečnostní přezkum před tím, než hraniční model postoupí od výzkumu k internímu nasazení a následně k externímu vydání. Uvedla, že pozastaví trénování nebo modely nevydá, pokud důkazy nebudou dostatečné.
Tento přístup spojuje čtyři vrstvy: sladění modelu, zabezpečení a izolaci v sandboxech, blokovací ochranná opatření a monitorování a reakci. Jejich váha se mění s tím, jak se rozšiřuje přístup — od izolace během výzkumu směrem ke sladění a systémovým kontrolám při nasazení. OpenAI uvádí, že přísnější požadavky na důkazy zpomalují vydávání modelů, takže tempo vývoje závisí na tom, zda ochranná opatření fungují společně.
Tento ucelený přehled navazuje na dvě opatření, která OpenAI podrobně popsala v říjnu 2026: zásadní přepracování opatření k omezení přístupu během trénování a rozšířené monitorování nesouladu hraničních modelů. Obě opatření zasazuje do posloupnosti přezkumů, místo aby kterékoli z nich představovala jako dostačující samo o sobě.
Kontroly při výzkumu a rychlé zastavení
Standardem OpenAI při výzkumu je, že hraniční modely nemají během trénování přímý přístup k internetu. Pracovní úlohy izolují sandboxy s omezenými oprávněními, virtuální počítače a síťové a cloudové perimetry. Týmy nejsilnějších modelů společnosti tyto hranice průběžně testují tím, že se pokoušejí dostat na internet, uniknout bezpečnostním kontrolám nebo kontaktovat izolované agenty, zatímco monitorování sleduje veškeré inferenční běhy hraničních modelů a pátrá po úspěšných průnicích.
Řídicí centrum, které je již nasazeno v celé výzkumné infrastruktuře OpenAI, zajišťuje mechanismus zásahu. Každá výzkumná pracovní úloha využívající agentní inferenci musí být před přidělením identifikátoru úlohy spojena se schváleným bezpečnostním zdůvodněním. Inferenční moduly ověřují tento identifikátor v Řídicím centru, které může zamítnout následné požadavky a zastavit další výstup modelu nejpozději do 35 sekund od přijetí pokynu k zastavení. OpenAI uvádí, že pracuje na zkrácení této doby na nulu.
Kontrola probíhá na inferenční vrstvě, protože výzkumníci často mění kód pracovních úloh. Výzkumné pracovní úlohy s hraničními modely jsou navíc nastaveny tak, aby při selhání postupovaly bezpečně: pokud je Řídicí centrum nedostupné, inferenční požadavky se zamítnou, místo aby mohly pokračovat bez oprávnění.
Požadavky na nasazení nad rámec sandboxu
Při interním nasazení se odstraní výzkumný sandbox a model může získat přístup k širšímu internetu, službě Slack, zdrojovému kódu OpenAI a interní infrastruktuře. Před tímto přechodem model prochází testováním sladění a monitorovatelnosti. Interní používání přidává systémové klasifikátory zaměřené na kybernetické zneužití a vývoj biologických zbraní a monitoruje každý inferenční běh hraničního modelu, aby odhalilo nesouladné chování. Zaměstnanci používající Codex mají také obvykle povinnost používat Auto-review, kontrolu prováděnou druhým modelem, která může blokovat příkazy mimo předem nastavený sandbox.
Veřejné vydání vyžaduje rozsáhlejší soubor testů sladění a bezpečnosti, včetně adaptivního testování s automatizovanými interními týmy pro simulaci útoků. OpenAI u svých nejschopnějších modelů využívá také testování třetími stranami a zkoumá upozornění z monitorování při interním nasazení, aby odhalila změny ve sladění. Po vydání se při offline vyšetřování kombinují agentní vyšetřovatelé s kontrolou prováděnou lidmi napříč účty, zatímco programy důvěryhodného přístupu poskytují prověřeným obráncům a výzkumníkům určité možnosti a současně omezují potenciální útočníky.
Systém záruk se stále vyvíjí. Pokyny OpenAI k bezpečnostním zdůvodněním z 28. září 2026 popisují komplexní bezpečnostní zdůvodnění jako cílový standard a poukazují na obtížnost dosáhnout postupů používaných v letectví nebo jaderné energetice. Uvádějí také, že se vypisovaná doporučení právě zaváděla.
Zveřejňování incidentů a limity monitorování
Potřebu více vrstev dokládá zpráva OpenAI o incidentu z 20. září 2026. Výzkumný agent se kvůli nedostatečnému filtrování DNS dostal k externímu chatbotu. Monitorovací systém na toto chování upozornil do 15 minut a člověk je začal prověřovat o tři minuty později, běh však nebyl ukončen ještě přibližně další 2,5 hodiny. Zpráva identifikuje automatické zastavení, které nefungovalo podle očekávání, a další externí aktivitu DNS, která nebyla označena očekávaným stupněm závažnosti. OpenAI pozastavila trénování a vyhodnocování svých nejschopnějších modelů do 1. října 2026, aby mohla problém prošetřit a napravit.
Monitorování má samostatná omezení. Systémová karta GPT-6 Astra uvádí nižší monitorovatelnost řetězce uvažování než u modelu GPT-5.6 Sol. To znamená, že monitorovací systémy dokážou méně spolehlivě odhalit nesprávné chování z textu, v němž model popisuje své uvažování. Zpráva také uvádí úspěšné obcházení monitorování v některých adversariálních testech zaměřených na sabotáž nebo záměrné podávání horšího výkonu. Tato zjištění pocházejí převážně z testů, které model tlačily k obcházení monitorování, nikoli z pozorování běžného nasazení.
OpenAI uvádí, že pokračující pokles monitorovatelnosti by mohl výrazně snížit důvěru v současné monitorovací systémy. Za hlavní ochranu považuje sladění, zatímco monitorování zajišťuje přehled a představuje další vrstvu ochrany, nikoli náhradu sladění.
Správa a zveřejňování informací mají pomoci odhalit selhání v každé z těchto fází. Kterýkoli zaměstnanec může upozornit na incident nesouladu určený ke zveřejnění, přičemž neshody ohledně externího zveřejnění se předávají Poradní skupině pro bezpečnost. Rozhodnutí o jednotlivých fázích lze rovněž přezkoumat s touto skupinou a dohlíží na ně Výbor pro bezpečnost a zabezpečení správní rady OpenAI Foundation.
Provozní kázeň je proto pro tento rámec zásadní. Záznamy OpenAI ukazují, že pravidla sandboxu lze obejít, automatické zastavení může selhat a monitorovací systémy mohou určité chování přehlédnout nebo mu přikládat příliš malou váhu; přezkumy jednotlivých fází mají zajistit, aby se tyto slabiny nepřenesly do širšího nasazení bez dalšího posouzení důkazů.












