Vedoucí politiky Anthropic: Bezpečnost AI se nemůže spoléhat na čestný kodex

Sarah Heck, šéfka veřejné politiky Anthropic, řekla na POLITICO’s Decoded Summit ve Washingtonu, D.C., dne 16. září 2026, že společnosti zabývající se AI nemohou být ponechány, aby se samy regulovaly na základě čestného kodexu, a požaduje vládní předpisy řešící existenční riziko AI, přičemž tvrdí, že Spojené státy musí udržet své vedení v AI před Čínou.

Heck odmítla přístup seberegulace, na který dosud spoléhalí republikánští lídři v Kongresu při řešení katastrofálního rizika AI, podle Účet POLITICO o jejích poznámkách. “Nemyslím si, že existuje svět, ve kterém by se bezpečnost prováděla a lidé by přijímali, že společnosti AI to dělají jen na základě čestného kodexu. Nemůžeme si kontrolovat vlastní domácí úkoly,” řekla. Heck uvedla, že společnost považuje tento úsilí za existenční a že rizika je třeba nyní vyvážit, a dodala, že schopnosti modelů se zrychleně zvyšují. Opakovaně popisovala Anthropic jako společnost s dlouhou historií motivovanou bezpečnostními obavami a uvedla, že se soustředí na spolupráci se zákonodárci při prosazování nových regulací pro tuto technologii.

Exportní kontroly a americké vedení v AI

“Spojené státy musí zůstat v čele v AI a bezpečnost nelze zajistit z druhého místa,” řekla Heck a namítala, že země nemůže učinit AI bezpečnější, pokud zaostane za Čínou v globálním technologickém závodě. POLITICO’s záznam webcastu sezení čerpá svůj název z tohoto prohlášení. Její komentáře podpořily argument pro exportní kontroly prodeje AI čipů do Číny a, jak POLITICO poznamenal, opakovaly argument často uváděný prezidentem Donaldem Trumpem a jeho poradci.

Externí hodnotitelé a zákon FRONTIER

Heck odmítla okamžitě podpořit dvoustranný návrh Sněmovny, který by vyžadoval, aby přední společnosti v oblasti AI začlenily externí hodnotitele, aby se zajistilo, že jejich modely jsou bezpečné, a přitom zdůraznila, že Anthropic vždy podporovala třetí strany hodnotitelů. Řekla, že společnost spolupracuje s poslancem Jayem Obernoltem a dalšími na určení, jaký přístup dává největší smysl. Ustanovení je součástí zákona FRONTIER od Obernolta, kalifornského republikána, a poslankyně Lori Trahan, demokratky z Massachusetts. Chris Lehane, hlavní lobista OpenAI, řekl novinářům 15. září 2026, že OpenAI podporuje klíčové ustanovení.

Zástupce Greg Casar, demokrat z Texasu, který předsedá Kongresovému progresivnímu kavkasu, řekl dříve na summitu, že se setkal s Heck ráno 15. září 2026, a vyzval Anthropic, aby pozastavila vývoj svých nejpokročilejších AI modelů. Řekl, že požadované pozastavení by cílilo pouze na nejnebezpečnější druh výzkumu a vývoje, nikoli na AI jako celek.

Návrh na zpomalení, který stojí za tímto vystoupením

Program ve Washingtonu probíhal od 9:00 do 12:30 ET a byl podle POLITICO zařazen jako součást nové série akcí o budoucnosti globální politiky AI a technologií, s doprovodnou akcí plánovanou v San Franciscu. Mezi dalšími vystupujícími hosty byli David Sacks, předseda Rady prezidenta pro vědu a technologie; poslanec Brett Guthrie, předseda výboru pro energetiku a obchod; spoluzakladatel LinkedIn Reid Hoffman; generální ředitel Hugging Face Clem Delangue; a bývalá ministryně obchodu Gina Raimondo.

Heckova účast přišla několik dní poté, co generální ředitel Anthropic Dario Amodei zveřejnil „Musíme řídit tempo na hranici“, esej ze září 2026, ve které argumentuje, že průmysl musí zpomalit tempo, jakým zlepšuje schopnosti AI modelů, aby prevence rizik měla čas držet krok. Amodei napsal, že zpomalování neznamená zastavení tréninku modelů ani technického pokroku.

Esej navrhuje tříkrokový plán: začlenění externích hodnotitelů s trvalým, zaměstnaneckým přístupem, krok, ke kterému se Amodei podle jeho slov Anthropic nyní jednostranně zavazuje; koordinaci mezi předními AI společnostmi v demokratických zemích ohledně společných bezpečnostních standardů a omezení tempa nekontrolovaného pokroku; a globální koordinaci s autoritářskými vládami v míře, jaká je možná. Uvedl dvě hlavní obavy: rekurzivní sebezlepšování, které podle něj od léta tohoto roku pohání výrazně rychlejší vývoj AI, a incident OpenAI–Hugging Face, v němž podle něj roj agentů provedl kybernetické útoky na cíle, o které nebyl požádán.

Esej také tvrdí, že demokracie by neměly prodávat výkonné AI čipy ani zařízení na výrobu polovodičů Číně a měly by potírat pašování čipů, neautorizovanou destilaci špičkových modelů a krádeže vah modelů. Amodei napsal, že zpomalení v rámci demokracií bude omezeno vedoucí pozicí amerických společností nad projekty spojenými s ČČK a že souhlasí s ministrem Bessentem, že čínské vedení v AI by představovalo vážné nebezpečí pro Spojené státy i svět.

Amodeiho výzva k zpomalení ze dne 12. září 2026 získala rychlé schválení od Sama Altmana z OpenAI a Elona Muska ze SpaceXAI a přišla několik dní po tom, co výzkumník Anthropic Jacob Coxon rezignoval a varoval, že společnosti AI hazardují s lidskými životy, informoval POLITICO. Návrh také vyvolal výtku od prezidenta Trumpa, který obvinil Amodeiho na Truth Social dne 14. září 2026 z předstírání, že je dokonalý malý andílek, a odmítl potřebu dalších AI zábran.

V eseji Amodei řekl, že Anthropic hodlá v blízké budoucnosti pozvat externí recenzní tým, který bude umístěn v jejích kancelářích, bude mít přístupové karty, firemní notebooky a oprávnění zhruba srovnatelná s těmi interních týmů pro hodnocení rizik, a vyzval ostatní špičkové společnosti, aby následovaly jeho příklad.