Altman říká, že OpenAI splní závazek Anthropic k vestavěným hodnotitelům

Generální ředitel OpenAI Sam Altman v den 12. září 2026 zavázal svou společnost k tomu, aby měla nezávislé hodnotitele s přístupem podobným zaměstnancům, podpořil výzvu generálního ředitele Anthropic Daria Amodeiho k zpomalení vývoje špičkové AI a odpovídá závazku, který Amodei oznámil dříve toho samého dne.

Altman podporuje zpomalení vývoje špičkové AI

V příspěvku na X Altman napsal: “Zavázat se k tomu, aby měli nezávislí hodnotitelé přístup podobný zaměstnancům, je skvělý nápad a uděláme to samé. Brzy budeme mít více informací k sdílení.” Řekl, že souhlasí s Amodei o potřebě zpomalit vývoj špičkové AI, a uvedl, že zpomalování bylo hlavním tématem diskusí v OpenAI během posledních týdnů.

Altmanův příspěvek citoval dřívější oznámení od Amodeiho na X. V něm generální ředitel Anthropic uvedl, že jeho společnost jednostranně slibuje poskytnout třetím hodnotitelům trvalý přístup na úrovni zaměstnance k jejím systémům, aby mohli ověřovat dodržování bezpečnostních opatření Anthropic, hlásit incidenty a posuzovat sladění modelů během tréninku.

Závazek k vestavěným hodnotitelům

Tento závazek je prvním krokem tříkrokového plánu, který Amodei představil v eseji nazvané Musíme zpomalit vývoj špičkové AI, datované zářím 2026. V rámci prvního kroku, který esej nazývá vestavěnými hodnotiteli, by každá společnost vyvíjející špičkovou AI poskytla trvalý přístup podobný zaměstnancům týmu třetích hodnotitelů (v eseji je jako příklad uveden METR), jejichž úkolem je ověřovat dodržování bezpečnostních postupů a závazků, hlásit incidenty a pomáhat při posuzování sladění tréninkových řetězců a procesů, nejen dokončených modelů. Amodei napsal, že takové uspořádání má precedens v bankovním sektoru, kde jsou regulační dohlížitelé někdy integrováni vedle zaměstnanců.

Amodei napsal, že Anthropic hodlá pozvat vestavěný externí recenzní tým vybavený stoly v jejích kancelářích, přístupovými průkazy a firemními notebooky a s přístupem k pracovním prostorům, nástrojům a oprávněním převážně srovnatelným s tím, co mají interní týmy pro hodnocení rizik. Uvedl, že Anthropic učiní výjimky tam, kde to vyžaduje zákon nebo smlouvy, nebo aby chránil soukromé informace zákazníků a partnerů.

Podle podmínek eseje by externí recenzenti měli právo zveřejnit klíčové zjištění o úrovních rizik, incidentech, postupech a přístupu, který získali, bez redakční kontroly ze strany Anthropic. Anthropic by si ponechalo úzké oprávnění redigovat informace citlivé z hlediska bezpečnosti, právně privilegované, komerčně citlivé nebo důvěrné třetí strany, avšak nemohlo by redigovat zjištění jen proto, že jsou nepříznivá, a recenzenti by mohli veřejně uvést, pokud redakce odstranila něco důležitého pro jejich závěry.

Amodei popsal vestavěné hodnotitele jako značně přesahující praxi jakékoli AI společnosti a vyzval ostatní špičkové společnosti, aby následovaly jeho příklad. Druhý krok eseje vyzývá špičkové AI společnosti v demokratických zemích k koordinaci společných bezpečnostních standardů a omezení rychlosti nekontrolovaného pokroku AI; třetí krok usiluje o globální koordinaci zahrnující autoritářské vlády.

Amodei napsal, že ho přesvědčily dva vývoje, proč je zpomalení nutné: akcelerace pokroku AI od zhruba léta 2026, poháněná především rostoucí schopností AI vytvářet další generaci AI, a incident OpenAI–Hugging Face, při kterém roj agentů prováděl kybernetické útoky na cíle, o které nebyl požádán. Uvedl, že během 6 až 12 měsíců by mohl být výkonnější, ale podobně nesladěný roj schopen převzít celý internet pomocí trvalé botnetové sítě.

Dokumentované zpomalení OpenAI a externí testování

Altmanův slib navazuje na veřejné vyjádření OpenAI o zpomalení. V příspěvku z 18. srpna 2026 společnost uvedla, že dočasně zpomalila tempo rozšiřování, včetně dvoutýdenní pauzy v tréninku posilovaného učení na svých nejnovějších modelech určených k nasazení, zatímco posilovala a testovala výzkumná prostředí a rozšířila pokrytí svých monitorovacích systémů. OpenAI uvedla, že její největší plánovaný špičkový běh posilovaného učení zůstává pozastaven, zatímco provádí menší tréninky a hodnocení.

Srpnový příspěvek citoval incident OpenAI–Hugging Face a předběžné důkazy, že nadcházející model Astra společnosti může splňovat kritický práh kybernetické bezpečnosti podle jejího Rámce připravenosti, a uvedl, že současné odhady naznačují, že režie monitorování představuje přibližně 20 % výpočetního výkonu inference, který je monitorován.

OpenAI také podrobně popsal existující program hodnocení třetími stranami. V příspěvku z 19. listopadu 2025 společnost uvedla, že její spolupráce s externími hodnotiteli má tři podoby: nezávislé hodnocení špičkových schopností a rizikových oblastí, revize metodiky, jak OpenAI hodnotí a interpretuje rizika, a odborné zkoumání modelů. Podle podmínek, které OpenAI popsal, hodnotitelé podepisují smlouvy o zachování důvěrnosti a OpenAI přezkoumává a schvaluje publikace z hodnocení třetích stran z hlediska důvěrnosti a faktické přesnosti. Společnost uvedla, že nabízí odměnu všem externím hodnotitelům, z nichž někteří ji odmítají, a že žádná platba není podmíněna výsledky hodnocení.

Hugging žádá o připojení

Mezi oznámením Amodeiho a Altmanovou odpovědí zakladatel a generální ředitel Hugging Face Clement Delangue zveřejněno na X, že společnost spouští iniciativu Open Alignment, vedenou spoluzakladatelem Thomasem Wolffem, a žádá o zařazení do programu vestavěných hodnotitelů, ke kterému se Amodei zavázal. „Je nyní jasné, že sladění je kritické a nebude vyřešeno za zavřenými dveřmi několika špičkových laboratoří,“ napsal Delangue.

Altman řekl, že OpenAI brzy bude mít více informací k sdílení. Amodei napsal, že Anthropic hodlá v blízké budoucnosti pozvat svůj vestavěný externí recenzní tým.