OpenAI navrhuje globální technické standardy pro špičkovou AI vedené Spojenými státy

OpenAI 21. září 2026 zveřejnilo \”Budování standardů pro další fázi AI,\” příspěvek v sekci Global Affairs, ve kterém vyzývá Spojené státy, aby vedly úsilí se zeměmi po celém světě na vytvoření globálních technických standardů pro špičkovou AI, včetně standardů pro rekurzivní samozlepšování.

Návrh spadá do tří misijních cílů, které OpenAI uvedlo jako definované Samem Altmanem a Jakubem Pachockim: vytvořit automatizovaného výzkumníka AI, spolupracovat s ním na problému sladění a najít způsoby, jak lidé zůstanou součástí smyčky samozlepšování; přinášet vědecké a ekonomické přínosy, které umožňují velmi inteligentní stroje; a posilovat jednotlivce pomocí osobního AGI. OpenAI uvedlo, že udržení pokroku AI v bezpečí a prospěšnosti závisí jak na pokroku ve výzkumu sladění, tak na sdílených standardech, které řídí vývoj napříč laboratořemi a zeměmi.

Postoj OpenAI k rekurzivnímu samozlepšování

Stupeň lidského dohledu v automatizovaném výzkumu AI se může lišit, uvádí příspěvek. Když systémy AI přebírají více práce při vytváření následných generací AI, mohou spouštět proces rekurzivního samozlepšování, nebo RSI, i když jsou lidé stále zapojeni, a OpenAI uvedlo, že pokrok by se mohl rychle zrychlit, jak se proces stává více automatizovaným.

OpenAI uvedlo, že věří, že automatizovaný výzkum AI vytvoří modely, které přímo zlepší život lidí a sníží náklady na pokročilou inteligenci, a že automatizovaný výzkumník AI může také sloužit jako automatizovaný výzkumník bezpečnosti AI. Současně společnost uvedla, že plně autonomní RSI se neuskutečňuje a nemělo by se usilovat o jeho realizaci, dokud a pokud nebude možné jej provést bezpečně. Jakékoli rozhodnutí o tom, zda a jak postupovat, musí podle OpenAI záviset na schopnosti zachovat lidskou kontrolu a na informovaných demokratických volbách ohledně přínosů a rizik.

Pokud bude RSI řešeno bez řádné péče a opatrnosti, může zanechat lidi bez praktické kontroly nad vývojem AI a neschopné dohlížet na výzkumné procesy, které již nechápou, uvedla společnost. OpenAI popsalo incident Hugging Face, který dříve zveřejnilo a který podle ní nebyl přímým důsledkem RSI, jako první náhled na typy rizik, jež by bez robustních záruk a sladění mohly výrazně narůst.

Tři výzvy stojící za prosazováním standardů

Mezinárodní standardy pro bezpečnostní a zabezpečovací praktiky ve vývoji špičkové AI mohou být stejně důležité pro tempo vývoje jako samotný výzkum sladění, argumentovalo OpenAI, protože poskytují vládám a laboratořím společné definice toho, co se počítá jako vysoce kvalitní důkaz, a společné základní linie pro to, jak přísná technická opatření musí být. Příspěvek uvádí tři výzvy, které mají tyto standardy řešit.

První je fragmentace: hodnocení, požadavky na vykazování a definice incidentů, které se mezi zeměmi rozcházejí, by ztížily srovnání přeshraničních důkazů, měření nově vznikajících schopností a řešení sdílených rizik. Druhá je kolektivní akce: země jednající samostatně mohou skončit s výsledky, které žádná z nich nechce, a OpenAI uvedlo, že RSI by mohlo urychlit výzkum AI rychleji, než národy dokážou kolektivně sledovat pokrok, měřit rizika a udržet smysluplný lidský dohled.

Třetí je nerovnoměrná kapacita: činnost a odborné znalosti v oblasti špičkového vývoje jsou po celém světě nerovnoměrně rozloženy, což podle příspěvku zhoršuje další dva problémy. Tyto výzvy se týkají jak otevřených, tak uzavřených modelů, uvedlo OpenAI a doplnilo, že jakékoli AI laboratoře, které se věnují automatizovanému výzkumu AI nebo jiným pokročilým schopnostem, musí nést odpovědnost za jejich bezpečné provádění. Společnost popisuje své odůvodnění standardů jako zakotvené v prevenci koncentrace moci a v dosažení lepších praktických výsledků, čímž poskytuje zainteresovaným stranám mimo laboratoře hlas v tom, jak se technologie vyvíjí.

Mechanismus postavený na CAISI a síti institutů pro bezpečnost

OpenAI uvedlo, že očekává, že koncept se v průběhu času podstatně vyvine, ale identifikovalo dva klíčové aspekty. Prvním je mechanismus, který usnadňuje doplňkové národní a mezinárodní standardy pro špičkovou AI. Jedna cesta, jak navrhuje příspěvek, spočívá v budování na rostoucí síti institutů pro bezpečnost AI, jako jsou již zřízené v Austrálii, Kanadě, Německu, Francii, Keni, Japonsku, Koreji, Singapuru, Indii a Spojeném království, a v nastavování standardů prostřednictvím Center for AI Standards and Innovation (CAISI) a národních průmyslových orgánů. Práce by se zaměřila na špičkové modely AI a vývojáře měřené podle benchmarků schopností a na řízení přínosů a rizik pro automatizovaný výzkum AI, včetně RSI.

OpenAI uvedlo, že Spojené státy mohou stavět na vytvoření Mezinárodní sítě pro měření, hodnocení a vědu o pokročilé AI v roce 2024 organizací CAISI. Podle Národního institutu pro standardy a technologie CAISI tuto síť založilo v listopadu 2024 a její členství zahrnuje vládní orgány z deseti zemí: Austrálie, Kanada, Evropská unie, Francie, Japonsko, Keňa, Korejská republika, Singapur, Spojené království a Spojené státy.

NIST uvedl, že ministr obchodu Howard Lutnick v červnu 2025 zadal CAISI úkol vypracovat směrnice a osvědčené postupy pro měření a zlepšování bezpečnosti AI systémů a pomoci průmyslu vyvíjet dobrovolné standardy. CAISI svolala členy sítě spolu s představiteli průmyslu a technických organizací v San Diegu během konference NeurIPS v prosinci 2025 k výměně osvědčených postupů a otevřených otázek v automatizovaném hodnocení AI a síť 13. února 2026 publikovala konsenzuální oblasti týkající se postupů pro automatizované hodnocení AI.

OpenAI uvedl, že standardy z tohoto úsilí by poskytly společnou technickou základnu pro měření schopností, hodnocení rizik a posuzování, zda jsou ochranná opatření dostatečná. Společnost uvedla, že nebudou fungovat jako licence ani jako povinné předběžné revize nebo schvalovací požadavky pro modely AI a že národní vlády rozhodnou, zda a jak je začlení do svých vlastních právních systémů.

OpenAI uvedl, že práce by měla konzultovat vývojáře otevřených i uzavřených modelů, nezávislé technické odborníky a akademickou sféru, a že standardy by měly být vytvářeny transparentně a navrženy tak, aby neupřednostňovaly konkrétní společnosti, země ani obchodní modely, včetně toho, že by ztížily soutěž nových vstupujících nebo vývojářů otevřených vah. Příspěvek uvádí, že přístup může čerpat z lekcí letectví a finanční stability, kde si státy vybudovaly společné technické standardy a důvěryhodné kanály spolupráce, aniž by se vzdaly národní suverenity, a že úsilí by mělo spolupracovat s ISO, Frontier Model Forum, Agentic AI Foundation a Open Secure AI Alliance, stejně jako s Appia Foundation, která vyvíjí praktické specifikace spojující mezinárodní standardy s reálným hodnocením AI.

Společná měření, protokoly incidentů a dialog USA–Čína

OpenAI uvedl, že druhým zásadním aspektem jsou společná měření a protokoly hlášení incidentů pro lepší kolektivní akci. Standardy by mohly zahrnovat, jak se hodnotí pokrok AI relevantní pro RSI a množství autonomního výzkumu v rámci AI společnosti, a OpenAI citoval svou zprávu o urychlení výzkumu jako počáteční příspěvek. Mohly by také zahrnovat lidský dohled nad automatizovaným výzkumem AI, včetně toho, které automatizované výzkumné procesy by měly vyvolat okamžitou lidskou kontrolu, a jak jsou incidenty v oblasti souladu a automatizovaného výzkumu klasifikovány, sledovány, hlášeny a řešeny, s jednotnými úrovněmi závažnosti a prahy hlášení. OpenAI popsal svůj rámec pro hlášení nesouladu jako raný příspěvek k této práci.

Společnost uvedla, že mimo standardy budou operátoři kritické infrastruktury a vlády po celém světě potřebovat zabezpečené komunikační kanály pro sdílení obav o národní bezpečnost, vznikajících zranitelností a hrozeb a osvědčených postupů v oblasti bezpečnosti špičkové AI. OpenAI uvedl, že dialog mezi Spojenými státy a Čínou v těchto oblastech by byl pozitivním krokem a že plánované rozhovory přicházejí v vhodném okamžiku.

V závěrečné části OpenAI argumentoval, že tempo vývoje AI nespočívá v dodržování předem určené rychlosti, ale v tom, aby výzkum souladu a jeho nasazení předčily schopnosti. Podle společnosti by Spojené státy měly vést, protože jejich AI průmysl působí na technické hranici, a silná národní správa propojená praktickou mezinárodní spoluprací poskytuje cestu k silnějším ochranným opatřením, pokračující inovaci a širokému přístupu k výhodám AI.