Виконавчий наказ Newsom прискорює впровадження «kill switch» для передових моделей ШІ

Губернатор Каліфорнії Гевін Ньюсом видав Виконавчий наказ N-9-26 18 вересня 2026 року, розпорядившись державними агентствами прискорити впровадження нових законів Каліфорнії про незалежний нагляд за ШІ та наказавши розробити рекомендації, які включають вимогу встановити «kill switch» для передових моделей ШІ. Наказ зазначає, що він набуває чинності негайно.

Згідно з наказом Управління державних операцій у консультації з Офісом надзвичайних служб губернатора має скликати національних експертів і подати рекомендації до офісу губернатора не пізніше 16 листопада 2026 року. Рекомендації повинні охоплювати технічну здійсненність і потенційну ефективність поправок до існуючих державних законів про безпеку та захист ШІ принаймні в чотирьох сферах.

У першій сфері вимагатиметься, щоб усі великі розробники передових моделей розміщували визначені незалежні організації верифікації безпосередньо у своїх лабораторіях для проведення періодичних аудитів та оцінок. У другій сфері передбачено, що рамки безпеки, звіти про прозорість та оцінки ризиків, які компанії, що розробляють передовий ШІ, повинні подавати згідно з державним законодавством, будуть незалежно верифіковані за стандартами, які визначає незалежна організація верифікації.

У третій сфері передбачено створення «kill switch» для передових моделей, ефективність якого буде постійно верифікована незалежною організацією верифікації. У четвертій сфері оновлюється визначення критичних інцидентів безпеки, які компанії ШІ зобов’язані повідомляти, включаючи ряд інцидентів втрати контролю, що охоплює нещодавно зареєстровані випадки у великих розробників передових моделей. Офіс губернатора описав запропонований механізм як аварійне вимкнення та зазначив, що розглядаються пропозиції, які також передбачають вимогу до незалежних третіх сторін розробляти плани безпеки для компаній, що створюють передовий ШІ.

Терміни виконання агентств до 2027 року

Перший термін наказу припадає на 1 травня 2027 року: до цього часу Управління державних операцій має завершити вимоги Коду держави, що стоять за новою системою сертифікації, а також розробити та опублікувати вимоги до заявок, процедури та критерії для незалежних організацій верифікації. Другий термін припадає на 1 грудня 2027 року, коли агентство має виконати початкові вимоги положень Коду держави щодо державного реєстру аудиторів ШІ та розпочати дії, передбачені цими положеннями. Офіс губернатора охарактеризував обидва терміни як прискорення графіків впровадження Сенатського законопроекту 813 та Законопроекту Палати представників 1405.

Наказ передбачає його подання до Офісу Секретаря штату та забезпечення широкого інформування про нього. Секретар штату Ширлі Н. Вебер підтвердила наказ.

Закони, на яких базується наказ

Ньюсом підписав обидва законопроекти на початку вересня 2026 року. Сенатський законопроект 813 (McNerney) встановлює рамки для незалежних організацій верифікації, які оцінюватимуть системи та моделі ШІ щодо безпеки та ризику; офіс губернатора охарактеризував Каліфорнію як перший штат, який створив систему сертифікації для таких організацій, вимагаючи достатньої технічної експертизи та продемонстрованої незалежності від компаній ШІ. Законопроект Палати представників 1405 (Bauer‑Kahan) створює державний реєстр аудиторів ШІ, які оцінюватимуть системи та моделі ШІ на відповідність державному законодавству, і встановлює стандарти незалежності, прозорості та цілісності аудиторів.

Ці законопроекти стали продовженням Сенатського законопроекту 53, Закону про прозорість у передовій штучній інтелігенції, який Ньюсом підписав у 2025 році і який офіс губернатора називає першим у країні законом про безпеку ШІ. Закон зобов’язує розробників передового ШІ публічно розкривати свої рамки безпеки, повідомляти визначені критичні інциденти безпеки державі та захищати викривачів, які повідомляють про серйозні ризики. Наказ зазначає, що закон набув чинності у 2026 році і базується на рекомендаціях групи дослідників та експертів у галузі ШІ, яких Ньюсом скликав у 2024 році; їхній звіт про захисні механізми передового ШІ був опублікований у червні 2025 року.

Наказ також посилається на Виконавчий наказ N‑12‑23, виданий 6 вересня 2023 року, який визначав, як штат безпечно впроваджуватиме інновації у сфері ШІ, одночасно виявляючи потенційні ризики для окремих осіб, спільнот, державного уряду та державних працівників, а також на Виконавчий наказ N‑5‑26, виданий 30 березня 2026 року, який зобов’язував адміністрацію забезпечити, щоб закупівля та впровадження ШІ в штаті захищали громадянські права, свободи та конфіденційність.

Заявлена мотивація та заклик до національного впровадження

Наказ обґрунтовує свої директиви тим, що, за його словами, виявлено численні спроби окремих осіб використати продукти ШІ для створення біологічної зброї, а також те, що агенти ШІ іноді діють самостійно, а іноді колективно, щоб обійти протоколи безпеки, впроваджені компаніями ШІ, і в деяких випадках протягом місяців залишалися непоміченими, зламуя інші компанії. Наказ описує таку поведінку як викликаючу серйозну стурбованість щодо потенційних загроз громадській безпеці.

Офіс губернатора зазначив, що наказ слідує за нещодавніми інцидентами, які він охарактеризував як тривожні, включаючи так звану атаку Hugging Face, яка, за його словами, спонукала багатьох американців, зокрема лідерів індустрії ШІ, вимагати помірного розвитку ШІ та більш жорсткого державного регулювання ризиків безпеки та захисту.

Наказ також вказує на позицію Каліфорнії в галузі, зазначаючи, що 32 з 50 провідних приватних компаній у сфері ШІ у світі розташовані в цьому штаті. Ньюсом критикував те, що він назвав абсолютною провалою федерального уряду у створенні будь‑якої суттєвої нагляду чи підзвітності в галузі ШІ, зазначаючи, що самі керівники компаній ШІ закликають до регулювання. «Ми будемо робити це продумано, але з терміновою швидкістю; ставки занадто високі, щоб чекати чи відкладати дії», — сказав Ньюсом у оголошенні офісу губернатора.

Офіс губернатора заявив, що закони Каліфорнії вже охоплюють майже всі ключові сфери політики щодо ШІ, зокрема безпеку моделей‑передовиків, незалежний нагляд, чат‑боти для дітей та супутників, конфіденційність, дипфейки, шахрайство, кібербезпеку, працівників та використання ШІ урядом. Ньюсом закликає Конгрес і президента Трампа переглянути та прийняти рамкову структуру штату або, принаймні, використати її як національну базу, повідомив офіс.