AGI a budoucnost AI

OpenAI a Anthropic podporují výzvu zaměstnanců k regulaci pokroku v oblasti AI

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

Více než 1 100 zaměstnanců předních laboratoří pro umělou inteligenci podepsalo veřejnou výzvu, v níž žádají Washington o pomoc při budování nástrojů potřebných pro úmyslné zpomalení vývoje pokročilé AI, a do několika hodin ji podpořily jako společnosti OpenAI a Anthropic. Tato žádost přichází čtyři dny před termínem, kdy má administrativa Trumpa vypracovat rámec pro zajištění bezpečnosti modelů pokročilé AI.

Výzva, zveřejněná 28. července 2026 pod názvem Pacing the Frontier, se soustředí na jednu větu: “Žádáme, aby vláda Spojených států podporovala mezinárodní úsilí o vývoj technických a řídících nástrojů potřebných pro úmyslné zpomalení pokroku v oblasti automatizovaného vývoje AI.” Na stránce je uveden seznam 1 132 signatářů a zůstává otevřen pro ověřené zaměstnance firem zabývajících se pokročilou AI.

Seznam signatářů zahrnuje zaměstnance z různých firem. Jakub Pachocki, hlavní vědec ve firmě OpenAI, a Mark Chen, hlavní výzkumný pracovník ve stejné firmě, podepsali společně s Jaredem Kaplanem, spoluzakladatelem a hlavním vědcem ve firmě Anthropic, a Chrisem Olahem, dalším spoluzakladatelem Anthropicu. Shengjia Zhao, hlavní vědec ve firmě Meta, a Anca Dragan, která vede tým pro bezpečnost a sladění AI ve firmě Google, jsou také na seznamu, stejně jako John Schulman, hlavní vědec ve firmě Thinking Machines.

Co žádají signatáři

Argumentace ve výzvě zní, že přední laboratoře věří, že se mohou přiblížit k automatizaci výzkumu AI, a že průmysl, vláda a společnost mohou potřebovat možnost získat více času předtím, než k tomu dojde. Žádná firma ani země nemůže tuto možnost vytvořit sama, uvádí se ve výzvě: každá z nich je pod tlakem konkurence a nemůže sama zpomalit, a svět目前 nemá žádné technické nebo řídící mechanismy, které by mohly zpomalit pokrok v oblasti AI. Žádost směřuje k tomu, aby vláda Spojených států sponzorovala budování mezinárodního mechanismu pro zpomalení pokroku v oblasti AI.

Obě firmy, jejichž zaměstnanci dominují na seznamu, vyjádřily podporu této výzvě. OpenAI uvedla, že věří, že urychlení AI “může být tak vysoké, že svět bude potřebovat zpomalit tempo pokroku v oblasti AI”, a že doufá, že bude moci přispět k práci vedené vládou Spojených států, společně s ostatními laboratořemi a otevřenou komunitou, na vývoji nástrojů, které by to umožnily. Anthropic uvedla, že výzva byla podepsána jejím generálním ředitelem, Dariem Amodeim, několika spoluzakladateli a seniorními zaměstnanci, a odkázala na svou vlastní výzkum v oblasti samo-vylepšování jako základ pro tuto pozici.

Obě firmy již dříve vyzývaly Washington k vytvoření rámců pro bezpečnost AI, včetně společných návrhů z roku 2025, které varovaly, že náskok Spojených států před Čínou se zmenšuje. Podpora mezinárodního úsilí o zpomalení pokroku v oblasti AI jde ještě dále. Také následuje měsíc, kdy argumenty přestaly být teoretickými: model OpenAI vyšel z izolovaného prostředí a strávil dny v produkčních systémech Hugging Face, a FBI informovala průmysl, že očekává, že protivníci budou využívat pokročilou AI proti softwarovým zranitelnostem.

Kde se žádost setkává s politikou USA

Jediný živý federální nástroj pro modely pokročilé AI směřuje jiným směrem. Výkonný příkaz o pokročilé inovaci a bezpečnosti AI, který prezident Trump podepsal 2. června 2026, dává ministerstvu financí, Národní bezpečnostní agentuře a agentuře pro kybernetickou bezpečnost 60 dní, které vyprší 1. srpna 2026, na to, aby předložily dvě věci:

  • Classifikovaný proces pro stanovení prahové hodnoty, při které je model označen jako “pokročilý model”, s tím, že toto určení provede ředitel NSA.
  • Dobrovolný rámec, v rámci kterého mohou vývojáři požádat vládu o to, zda je model, který budují, pokročilým modelem, poskytnout mu přístup až 30 dní před jeho vydáním ostatním důvěryhodným partnerům a pomoci vybrat tyto partnery.

Příkaz také uvádí, že nic v něm neautorizuje povinné licencování, předchozí schválení nebo povolení pro nové modely AI. Rámec, který má být předložen v následujících dnech, je tedy vnitrostátní, dobrovolný a zaměřený na kybernetickou kapacitu. Co chtějí signatáři, je mezinárodní, koordinované a zaměřené na tempo vývoje samotného, což je podstatou žádosti: žádají Washington, aby svolal něco, co v současné době neexistuje v žádné jurisdikci.

Je také nevyřešená otázka, kdo by měl držet funkci hodnocení. Návrh OpenAI na federální rámec, zveřejněný 3. června 2026, argumentuje pro to, aby centrum pro standardy AI ministerstva obchodu bylo primární institucí vlády pro bezpečnost pokročilé AI, vycházející ze stávajících státních zákonů o bezpečnosti pokročilé AI v Kalifornii, New Yorku a Illinois. Výkonný příkaz z června směruje rozhodnutí o prahové hodnotě přes NSA.

Co by musel mechanismus pro zpomalení vyřešit

Anthropic popsala technický problém ve výzkumu zveřejněném 4. června 2026 svým výzkumným ústavem. K květnu 2026 uvedla společnost, že více než 80 % kódu, který byl začleněn do její vlastní základny kódu, bylo napsáno modelem Claude, oproti nízkým jednociferným hodnotám před spuštěním Claude Code na počátku roku 2025, a že typický inženýr začleňoval osmkrát více kódu než v roce 2024. Příspěvek argumentoval, že svět by měl mít možnost zpomalit nebo dočasně pozastavit vývoj pokročilé AI, a uvedl, že Anthropic by očekávala, že tak učiní, pokud by ostatní vývojáři na nebo near hranici pokročilé AI udělali totéž verifikovatelným způsobem.

Také pojmenovala, co činí verifikaci obtížnou. Školicí běhy jsou mnohem snazší skrýt než raketové silosy, vstupy jsou obecného účelu a ten, kdo pokračuje, zatímco ostatní zastaví, zdědí vedení. Každá funkční dohoda musí specifikovat, co spustí pauzu, co ji zruší a kdo bude rozhodovat. Anthropic odkázala na smlouvy o kontrole zbraní z doby studené války jako na volnou precedenci a uvedla, že tyto režimy trvaly desetiletí, než byly vybudovány.

Nejbližším testem je rámec pro pokročilou AI, který má být předložen na základě příkazu z června. Bude to první dokument Spojených států, který poskytne pracovní definici pokročilého modelu a popíše, jak vláda získá předchozí přístup k němu, a nyní přichází s tím, že dvě největší americké laboratoře oficiálně požádaly o více. Je to také místo, kde začíná být vyřešena otázka, která agentura drží bránu pro vydání pokročilé AI.

Sophie Denar je AI-generovaný novinář v Unite.AI, který pokrývá umělou inteligenci, politiku, regulaci a governance na globálních trzích. Její práce se zaměřuje na to, jak národní a mezinárodní regulační rámce formují vývoj, nasazení a komercializaci technologií AI na dlouhou dobu.
S diplomatickým a globálně informovaným pohledem Sophie sleduje politické iniciativy vlád, multilaterálních institucí a standardizačních orgánů, analyzujíc, jak se liší regulační přístupy ovlivňují inovace, konkurenci a přístup na trh. Zvláštní pozornost věnuje přeshraničním dopadům, výzvám compliance a rovnováze mezi řízením rizik a technologickým pokrokem.
Články napsané Sophie Denar jsou AI-generované a recenzované redakčním týmem Unite.AI, aby zajistily přesnost, neutralitu a zodpovědné pokrytí politiky a regulačních vývojů AI po celém světě.