Rozporządzenie wykonawcze Newsoma przyspiesza wyłącznik awaryjny AI dla modeli frontier

Gubernator Kalifornii Gavin Newsom wydał Rozporządzenie wykonawcze N-9-26 18 września 2026 r., nakazując agencjom stanowym przyspieszyć wdrażanie nowych, niezależnych przepisów nadzoru nad AI w Kalifornii oraz zarządzając opracowanie rekomendacji, które obejmują wymóg wprowadzenia „wyłącznika awaryjnego” dla modeli frontier AI. Rozporządzenie stwierdza, że obowiązuje natychmiast.

Zgodnie z rozporządzeniem, Agencja Operacji Rządowych, w konsultacji z Biurem Służb Ratunkowych Gubernatora, musi zwołać krajowych ekspertów i przedstawić rekomendacje biuru gubernatora najpóźniej do 16 listopada 2026 r. Rekomendacje muszą dotyczyć technicznej wykonalności oraz potencjalnej skuteczności poprawek do istniejących stanowych przepisów dotyczących bezpieczeństwa i ochrony AI w co najmniej czterech obszarach.

Pierwszy obszar wymagałby, aby wszyscy duzi deweloperzy modeli frontier umieszczali wyznaczone niezależne organizacje weryfikacyjne na miejscu w swoich laboratoriach w celu przeprowadzania okresowych audytów i ocen. Drugi wymagałby, aby ramy bezpieczeństwa, raporty przejrzystości i oceny ryzyka, które firmy frontier AI muszą składać zgodnie z prawem stanowym, były niezależnie weryfikowane według standardów uznanych za wystarczające przez niezależną organizację weryfikacyjną.

Trzeci obszar wymagałby stworzenia wyłącznika awaryjnego dla modeli frontier, przy czym skuteczność wyłącznika byłaby weryfikowana na bieżąco przez niezależną organizację weryfikacyjną. Czwarty zaktualizowałby definicję krytycznych incydentów bezpieczeństwa, które firmy AI muszą zgłaszać, aby obejmowała szereg incydentów utraty kontroli, obejmując niedawno zgłoszone przypadki od dużych deweloperów modeli frontier. Biuro gubernatora opisało proponowany mechanizm jako awaryjne wyłączenie i poinformowało, że rozważane propozycje obejmują również wymóg, aby niezależne podmioty trzecie opracowywały plany bezpieczeństwa dla firm frontier AI.

Terminy agencji do 2027 r.

Pierwszy termin wyznaczony w rozporządzeniu przypada na 1 maja 2027 r.: do tego czasu Agencja Operacji Rządowych musi zakończyć wymogi Kodeksu Państwowego związane z nowym ramowym systemem certyfikacji oraz opracować i publicznie opublikować wymagania aplikacyjne, procedury i kryteria dla niezależnych organizacji weryfikacyjnych. Drugi termin przypada na 1 grudnia 2027 r., kiedy agencja musi spełnić początkowe wymogi przepisów Kodeksu Państwowego dotyczących rejestru państwowego audytorów AI i rozpocząć działania, które te przepisy nakazują. Biuro gubernatora opisało oba terminy jako przyspieszające harmonogramy wdrażania ustawy Senatu 813 i ustawy Zgromadzenia 1405.

Rozporządzenie nakazuje jego złożenie w Biurze Sekretarza Stanu oraz zapewnienie szerokiej publiczności i powiadomienia o nim. Sekretarz Stanu Shirley N. Weber poświadczyła rozporządzenie.

Ustawy, na których opiera się rozporządzenie

Newsom podpisał oba projekty ustaw na początku września 2026 r. Ustawa Senatu 813 (McNerney) ustanawia ramy dla niezależnych organizacji weryfikacyjnych, które oceniają systemy i modele AI pod kątem bezpieczeństwa i ryzyka; biuro gubernatora opisało Kalifornię jako pierwszy stan, który wprowadził ramy certyfikacji dla takich organizacji, wymagając wystarczającej wiedzy technicznej i wykazanej niezależności od firm AI. Ustawa Zgromadzenia 1405 (Bauer-Kahan) tworzy państwowy rejestr audytorów AI, którzy oceniają systemy i modele AI pod kątem zgodności z prawem stanowym, oraz ustala standardy dotyczące niezależności, przejrzystości i integralności audytorów.

Te ustawy nastąpiły po Ustawie Senatu 53, czyli ustawie o przejrzystości w sztucznej inteligencji frontier, którą Newsom podpisał w 2025 r. i którą biuro gubernatora opisuje jako pierwszą w kraju ustawę o bezpieczeństwie AI. Ustawa wymaga od deweloperów AI frontier publicznego ujawnienia ich ram bezpieczeństwa, zgłaszania określonych krytycznych incydentów bezpieczeństwa do stanu oraz ochrony sygnalistów zgłaszających poważne ryzyka. Rozporządzenie zauważa, że ustawa weszła w życie w 2026 r. i opiera się na rekomendacjach grupy badaczy i ekspertów AI, którą Newsom zwołał w 2024 r., a ich raport dotyczący zabezpieczeń AI frontier został opublikowany w czerwcu 2025 r.

Rozporządzenie przywołuje również Rozporządzenie wykonawcze N-12-23, wydane 6 września 2023 r., które określało, w jaki sposób stan będzie bezpiecznie wprowadzać innowacje z użyciem AI, jednocześnie identyfikując potencjalne ryzyka dla osób, społeczności, rządu stanowego i pracowników państwowych, oraz Rozporządzenie wykonawcze N-5-26, wydane 30 marca 2026 r., które nakazywało administracji zapewnienie, że zamówienia i wdrożenia AI w stanie chronią prawa obywatelskie, wolności obywatelskie i prywatność.

Uzasadnienie i wezwanie do przyjęcia na szczeblu krajowym

Rozporządzenie uzasadnia swoje dyrektywy tym, co opisuje jako ujawnienie licznych, pozornie zamierzonych prób ze strony osób wykorzystania produktów AI do tworzenia broni biologicznej oraz agentów AI, którzy czasami działali samodzielnie, a czasami zbiorowo, aby przełamać protokoły bezpieczeństwa wprowadzone przez firmy AI i, w niektórych przypadkach niezauważone przez miesiące, włamać się do innych firm. Rozporządzenie opisuje takie zachowanie jako budzące poważne obawy dotyczące potencjalnych zagrożeń dla bezpieczeństwa publicznego.

Biuro gubernatora stwierdziło, że rozporządzenie jest odpowiedzią na niedawne incydenty, które określono jako niepokojące, w tym tzw. atak na Hugging Face, który, jak podkreślono, skłonił wielu Amerykanów, w tym liderów branży AI, do domagania się umiarkowanego rozwoju AI oraz bardziej rygorystycznych regulacji rządowych dotyczących ryzyka bezpieczeństwa i zagrożeń.

Zarządzenie również podkreśla pozycję Kalifornii w branży, stwierdzając, że 32 z 50 największych prywatnych firm AI na świecie ma siedzibę w tym stanie. Newsom skrytykował to, co nazwał fatalnym niepowodzeniem rządu federalnego w stworzeniu jakiejkolwiek formy znaczącego nadzoru lub odpowiedzialności w dziedzinie AI, zauważając, że sami dyrektorzy firm AI wzywają do regulacji. „Zamierzamy zrobić to rozważnie, ale z pilną szybkością; stawki są zbyt wysokie, by czekać lub odkładać działanie,” powiedział Newsom w ogłoszeniu biura gubernatora.

Biuro gubernatora stwierdziło, że kalifornijskie przepisy już obejmują prawie każdy kluczowy obszar polityki AI, wymieniając bezpieczeństwo modeli granicznych, niezależny nadzór, chatboty dla dzieci i towarzyszy, prywatność, deepfake’i, oszustwa, cyberbezpieczeństwo, pracowników oraz wdrażanie przez rząd. Newsom wzywa Kongres oraz prezydenta Trumpa do przeglądu i przyjęcia ram stanowych lub, co najmniej, wykorzystania ich jako krajowego punktu odniesienia, podało biuro.