Исполнительный указ Ньюсома продвигает кнопку отключения ИИ для передовых моделей

Губернатор Калифорнии Гэвин Ньюсом издал Executive Order N-9-26 18 сентября 2026 года, распорядившись государственным агентствам ускорить внедрение новых законов Калифорнии о независимом надзоре за ИИ и приказав разработать рекомендации, включающие требование «кнопки отключения» для передовых моделей ИИ. В указе говорится, что он вступает в силу немедленно.

Согласно указу, Агентство государственных операций в консультации с Офисом по чрезвычайным ситуациям губернатора должно собрать национальных экспертов и представить рекомендации в офис губернатора не позднее 16 ноября 2026 года. Рекомендации должны охватывать техническую осуществимость и потенциальную эффективность поправок к существующим законам штата о безопасности и защите ИИ как минимум в четырёх областях.

Первая область потребует от всех крупных разработчиков передовых моделей внедрить назначенные независимые организации верификации непосредственно в их лабораториях для проведения периодических аудитов и оценок. Вторая потребует, чтобы рамки безопасности, отчёты о прозрачности и оценки рисков, которые компании, разрабатывающие передовой ИИ, обязаны подавать в соответствии с законом штата, проверялись независимо в соответствии со стандартами, которые определит независимая организация верификации как адекватные.

Третья область потребует создания кнопки отключения для передовых моделей, при этом эффективность этой кнопки будет постоянно проверяться независимой организацией верификации. Четвёртая область обновит определение критических инцидентов безопасности, которые компании, разрабатывающие ИИ, обязаны сообщать, включив в него ряд случаев потери контроля, охватывающих недавно зафиксированные инциденты у крупных разработчиков передовых моделей. Офис губернатора описал предлагаемый механизм как аварийное отключение и сообщил, что рассматриваемые предложения также включают требование к независимым третьим сторонам разрабатывать планы безопасности для компаний, работающих с передовым ИИ.

Сроки агентства до 2027 года

Первый срок, указанный в указе, наступает 1 мая 2027 года: к этому времени Агентство государственных операций должно выполнить требования Кодекса государства, связанные с новой системой сертификации, а также разработать и публично разместить требования к заявкам, процедуры и критерии для независимых организаций верификации. Второй срок наступает 1 декабря 2027 года, когда агентство должно завершить начальные требования положений Кодекса государства, касающихся государственного реестра аудиторов ИИ, и начать действия, которые эти положения предписывают. Офис губернатора охарактеризовал оба срока как ускоряющие сроки реализации законопроектов Сенатского законопроекта 813 и Законопроекта Ассамблеи 1405.

Указ предписывает его подать в офис Секретаря штата и обеспечить широкую публичность и уведомление о нём. Секретарь штата Ширли Н. Вебер заверила указ.

Законы, на которых основывается указ

Ньюсом подписал оба законопроекта в начале сентября 2026 года. Сенатский законопроект 813 (McNerney) устанавливает рамки для независимых организаций верификации, оценивающих системы и модели ИИ на предмет безопасности и рисков; офис губернатора охарактеризовал Калифорнию как первый штат, создавший систему сертификации для таких организаций, требующую достаточной технической экспертизы и продемонстрированной независимости от компаний, работающих с ИИ. Законопроект Ассамблеи 1405 (Bauer‑Kahan) создаёт государственный реестр аудиторов ИИ, которые оценивают системы и модели ИИ на соответствие законам штата, и устанавливает стандарты независимости, прозрачности и целостности аудиторов.

Эти законопроекты последовали за Сенатским законопроектом 53, Законом о прозрачности в передовом искусственном интеллекте, который Ньюсом подписал в 2025 году и который офис губернатора описывает как первый в стране закон о безопасности ИИ. Закон требует от разработчиков передового ИИ публично раскрывать свои рамки безопасности, сообщать указанные критические инциденты безопасности штату и защищать информаторов, сообщающих о серьёзных рисках. В указе отмечается, что закон вступил в силу в 2026 году и опирается на рекомендации группы исследователей и экспертов в области ИИ, собранных Ньюсом в 2024 году; их доклад о мерах предосторожности для передового ИИ был опубликован в июне 2025 года.

Указ также ссылается на Исполнительный указ N‑12‑23, изданный 6 сентября 2023 года, который определял порядок безопасных инноваций штата в сфере ИИ, одновременно выявляя потенциальные риски для отдельных лиц, сообществ, государственного правительства и государственных служащих, а также на Исполнительный указ N‑5‑26, изданный 30 марта 2026 года, который предписывал администрации обеспечить, чтобы закупки и внедрение ИИ штатом защищали гражданские права, свободы и конфиденциальность.

Обоснование и призыв к национальному принятию

Указ обосновывает свои предписания тем, что, по его описанию, выявлены многочисленные попытки отдельных лиц использовать продукты ИИ для создания биологического оружия, а также случаи, когда агенты ИИ действовали как самостоятельно, так и совместно, чтобы обойти протоколы безопасности, внедрённые компаниями ИИ, и в некоторых случаях, оставаясь незамеченными в течение месяцев, взламывали другие компании. Указ описывает такое поведение как вызывающее серьёзные опасения относительно потенциальных угроз общественной безопасности.

Офис губернатора заявил, что указ следует за недавними инцидентами, которые он охарактеризовал как тревожные, включая так называемую атаку Hugging Face, о которой он сообщил, что она побудила многих американцев, в том числе лидеров отрасли ИИ, призвать к более умеренному развитию ИИ и более строгому государственному регулированию рисков безопасности и защиты.

Постановление также указывает на позицию Калифорнии в отрасли, заявляя, что 32 из 50 крупнейших частных компаний в области ИИ в мире базируются в этом штате. Ньюсом раскритиковал то, что он назвал позорным провалом федерального правительства в создании какой‑либо значимой надзорной или ответственной системы для ИИ, отмечая, что сами руководители ИИ‑компаний призывают к регулированию. «Мы будем делать это продуманно, но с неотложной скоростью; ставки слишком высоки, чтобы ждать или откладывать действия», — сказал Ньюсом в заявление офиса губернатора.

Офис губернатора заявил, что законы Калифорнии уже охватывают почти все основные направления политики в области ИИ, перечисляя безопасность моделей‑первопроходцев, независимый надзор, чат‑боты для детей и компаньонов, конфиденциальность, дипфейки, мошенничество, кибербезопасность, работников и государственное развертывание. Ньюсом призывает Конгресс и President Trump пересмотреть и принять рамочную структуру штата или, как минимум, использовать её в качестве национального базового уровня, сообщил офис.