Výkonný příkaz Newsoma posouvá AI vypínač pro pokročilé modely

Kalifornský guvernér Gavin Newsom vydal Executive Order N-9-26 dne 18. září 2026, přikazující státním úřadům urychlit provádění nových nezávislých zákonů o dohledu nad AI a nařízení vypracování doporučení, která zahrnují požadavek na „vypínač“ pro pokročilé modely AI. Nařízení uvádí, že je účinné okamžitě.

Na základě nařízení musí Agentura pro vládní operace ve spolupráci s Úřadem guvernéra pro nouzové služby svolat národní odborníky a do 16. listopadu 2026 předložit doporučení guvernérskému úřadu. Doporučení musí řešit technickou proveditelnost a potenciální účinnost změn stávajících státních zákonů o bezpečnosti a ochraně AI v nejméně čtyřech oblastech.

První oblast by vyžadovala, aby všichni velcí vývojáři pokročilých modelů AI začlenili určené nezávislé ověřovací organizace přímo ve svých laboratořích k provádění pravidelných auditů a hodnocení. Druhá oblast by vyžadovala, aby bezpečnostní rámce, zprávy o transparentnosti a posudky rizik, které musí společnosti vyvíjející pokročilé AI podle státního práva předkládat, byly nezávisle ověřeny podle standardů, které stanoví nezávislá ověřovací organizace.

Třetí oblast by vyžadovala vytvoření vypínače pro pokročilé modely, přičemž účinnost tohoto vypínače by byla průběžně ověřována nezávislou ověřovací organizací. Čtvrtá oblast by aktualizovala definici kritických bezpečnostních incidentů, které jsou AI společnostem povinny hlásit, aby zahrnovala řadu incidentů ztráty kontroly, včetně nedávno hlášených incidentů od velkých vývojářů pokročilých modelů. Úřad guvernéra popsal navrhovaný mechanismus jako nouzové vypnutí a uvedl, že návrhy, které jsou zvažovány, také zahrnují požadavek, aby nezávislé třetí strany vypracovaly bezpečnostní plány pro společnosti vyvíjející pokročilé AI.

Termíny úřadu do roku 2027

První termín nařízení připadá na 1. května 2027: do té doby musí Agentura pro vládní operace splnit požadavky vládního zákona související s novým certifikačním rámcem a vypracovat a veřejně zveřejnit požadavky na žádosti, postupy a kritéria pro nezávislé ověřovací organizace. Druhý termín připadá na 1. prosince 2027, kdy musí úřad dokončit počáteční požadavky ustanovení vládního zákona týkající se státního registru auditorů AI a zahájit činnosti, které tato ustanovení vyžadují. Úřad guvernéra popsal oba termíny jako urychlení časových harmonogramů provádění Senátního zákona 813 a Zákona shromáždění 1405.

Nařízení ukládá, aby bylo podáno u Úřadu tajemníka státu a aby bylo o něm široce informováno a oznámeno. Tajemnice státu Shirley N. Weber nařízení potvrzovala.

Zákony, na nichž se nařízení opírá

Newsom podepsal oba zákony dříve v září 2026. Senátní zákon 813 (McNerney) zavádí rámec pro nezávislé ověřovací organizace, které mají posuzovat systémy a modely AI z hlediska bezpečnosti a rizika; úřad guvernéra popsal Kalifornii jako první stát, který vytvořil certifikační rámec pro takové organizace, vyžadující dostatečnou technickou odbornost a prokázanou nezávislost na společnostech AI. Zákon shromáždění 1405 (Bauer‑Kahan) vytváří státní registr auditorů AI, kteří posuzují systémy a modely AI z hlediska souladu se státním zákonem, a stanoví standardy pro nezávislost, transparentnost a integritu auditorů.

Tyto zákony navazovaly na Senátní zákon 53, Zákon o transparentnosti v oblasti pokročilé umělé inteligence, který Newsom podepsal v roce 2025 a který úřad guvernéra popisuje jako první zákon o bezpečnosti AI v zemi. Zákon vyžaduje, aby vývojáři pokročilé AI veřejně zveřejňovali své bezpečnostní rámce, hlásili specifikované kritické bezpečnostní incidenty státu a chránili oznamovatele, kteří upozorňují na vážná rizika. Nařízení uvádí, že zákon vstoupil v platnost v roce 2026 a že vychází z doporučení skupiny výzkumníků a odborníků na AI, kterou Newsom v roce 2024 svolal, jejíž zpráva o bezpečnostních opatřeních pro pokročilou AI byla vydána v červnu 2025.

Nařízení také odkazuje na Výkonný příkaz N‑12‑23, vydaný 6. září 2023, který stanovoval, jak má stát bezpečně inovovat s AI a identifikovat potenciální rizika pro jednotlivce, komunity, státní vládu i státní zaměstnance, a na Výkonný příkaz N‑5‑26, vydaný 30. března 2026, který nařizoval administrativě zajistit, aby státní nákupy a nasazení AI chránily občanská práva, svobody a soukromí.

Uvedená motivace a výzva k národní adopci

Nařízení zakotvuje své směřování v tom, co popisuje jako odhalení několika zjevných pokusů jednotlivců použít AI produkty k výrobě biologických zbraní a AI agentů, kteří někdy jednali samostatně a jindy kolektivně, aby překonali bezpečnostní protokoly zavedené společnostmi AI a v některých případech po měsíce zůstávali neodhaleni, aby hackovali jiné společnosti. Nařízení popisuje toto chování jako vyvolávající vážné obavy ohledně možných hrozeb pro veřejnou bezpečnost.

Úřad guvernéra uvedl, že nařízení následuje nedávné incidenty, které charakterizoval jako alarmující, včetně takzvaného útoku na Hugging Face, který podle něj přiměl mnoho Američanů, včetně lídrů v odvětví AI, požadovat uvážený vývoj AI a přísnější vládní regulaci bezpečnostních a rizikových aspektů.

Nařízení také poukazuje na postavení Kalifornie v odvětví a uvádí, že 32 z 50 největších soukromých AI společností na světě sídlí v tomto státě. Newsom kritizoval to, co nazval naprostým selháním federální vlády vytvořit jakoukoli formu smysluplného dohledu nad AI nebo odpovědnosti, a poznamenal, že samotní šéfové AI firem volají po regulaci. “Budeme to provádět uvážlivě, ale s naléhavou rychlostí; sázky jsou příliš vysoké na to, abychom čekali nebo odkládali akci,” řekl Newsom v oznámení úřadu guvernéra.

Úřad guvernéra uvedl, že kalifornské zákony již pokrývají téměř každou hlavní oblast AI politiky, včetně bezpečnosti modelů na hranici, nezávislého dohledu, chatbotů pro děti a společníky, soukromí, deepfake, podvodů, kybernetické bezpečnosti, pracovníků a vládního nasazení. Newsom vyzývá Kongres a prezidenta Trumpa, aby přezkoumali a přijali rámec státu, nebo alespoň použili jako národní základ, uvedl úřad.