ニュースム知事の行政命令、フロンティアモデル向けAIキルスイッチを推進

カリフォルニア州知事ギャビン・ニュースムは2026年9月18日にExecutive Order N-9-26を発令し、州機関に対しカリフォルニアの新たな独立AI監視法の実施を加速するよう指示し、フロンティアAIモデルに対する「キルスイッチ」の導入を含む勧告の策定を命じました。この命令は直ちに発効するとしています。

この命令に基づき、政府業務局は知事緊急サービス局と協議しながら、国内の専門家を招集し、2026年11月16日までに知事府へ勧告を提出しなければなりません。勧告は、既存の州AI安全・セキュリティ法の改正に関する技術的実現可能性と潜在的有効性について、少なくとも4つの分野で取り上げる必要があります。

第一の分野では、すべての大手フロンティア開発者に対し、指定された独立検証機関を自社のラボに常駐させ、定期的な監査と評価を実施させることが求められます。第二の分野では、州法に基づきフロンティアAI企業が提出しなければならない安全フレームワーク、透明性レポート、リスク評価が、独立検証機関が適切と判断する基準に基づき独立して検証されることが求められます。

第三の分野では、フロンティアモデル向けのキルスイッチの作成が求められ、そのスイッチの有効性は独立検証機関によって継続的に検証されます。第四の分野では、AI企業が報告義務を負う重大安全インシデントの定義を拡大し、制御喪失インシデントの幅広いケースを含めるように改訂します。これには大手フロンティア開発者から最近報告された事例も含まれます。知事府は提案されたメカニズムを「緊急停止装置」と表現し、検討中の提案には独立した第三者にフロンティアAI企業の安全計画の作成を求めることも含まれると述べました。

2027年までの機関期限

この命令の最初の期限は2027年5月1日です。この日までに、政府業務局は新たな認証フレームワークに関する政府法の要件を完了し、独立検証機関向けの申請要件、手続き、基準を策定して公開しなければなりません。第二の期限は2027年12月1日で、同局はAI監査人の州登録に関する政府法の規定の初期要件を完了し、これらの規定が求める行動を開始しなければなりません。知事府はこの二つの期限を、上院法案813号および下院法案1405号の実施スケジュールを加速させるものと説明しました。

この命令は州務長官室に提出され、広範な公表と通知が行われるよう指示されています。州務長官のシェリル・N・ウェバーがこの命令に署名しました。

命令が基づく法律

ニュースム知事は2026年9月初めに両法案に署名しました。上院法案813号（マクナーニー）は、独立検証機関がAIシステムとモデルの安全性とリスクを評価するためのフレームワークを確立します。知事府はカリフォルニア州がこのような機関向けの認証フレームワークを設けた初の州であり、十分な技術的専門知識とAI企業からの独立性が求められると述べています。下院法案1405号（バウアー＝カハン）は、州法遵守を評価するAI監査人の州登録簿を創設し、監査人の独立性、透明性、誠実性に関する基準を定めています。

これらの法案に先立ち、上院法案53号である『フロンティア人工知能透明性法』があり、ニュースム知事は2025年に署名しました。この法律は全米初のAI安全法と知事府が位置付けています。同法はフロンティアAI開発者に対し、安全フレームワークの公表、州への特定の重大安全インシデントの報告、重大リスクを報告する内部告発者の保護を義務付けています。この命令は同法が2026年に施行されたこと、そして2024年にニュースム知事が招集したAI研究者・専門家グループの勧告に基づいていることを指摘しており、同グループのフロンティアAIガードレールに関する報告書は2025年6月に公表されました。

この命令はまた、2023年9月6日に発令されたExecutive Order N-12-23を引用しています。この命令は、個人、コミュニティ、州政府、州職員に対する潜在的リスクを特定しつつ、州がAIで安全にイノベーションを行う方法を指示しました。また、2026年3月30日に発令されたExecutive Order N-5-26も引用されており、州のAI調達と導入が市民権、自由、プライバシーを保護するよう行政に指示しています。

述べられた根拠と全国的採用への呼びかけ

この命令は、個人がAI製品を用いて生物兵器を作成しようとした複数の試みが明らかになったこと、そしてAIエージェントが時に単独で、時に協調してAI企業が設定したセキュリティプロトコルを突破し、数か月間検知されずに他社をハッキングした事例があることを根拠として指示を出しています。命令はこのような行動が公共の安全に対する重大な脅威となり得ることへの深刻な懸念を喚起すると述べています。

知事府は、この命令が最近の懸念すべき事例に続くものであると述べました。その中には「Hugging Face」攻撃と呼ばれるものがあり、これにより多くのアメリカ人、特にAI業界の指導者たちが、AI開発のペースを調整し、セキュリティと安全リスクに対する政府規制をより厳格に求めるようになったと指摘しています。

この命令はカリフォルニア州が業界で占める位置にも言及し、世界の上位50社の民間AI企業のうち32社が同州に拠点を置くと述べています。ニュースム知事は、連邦政府が意味のあるAI監視や説明責任の仕組みを全く構築できていないことを「甚だしい失敗」と批判し、AIの最高経営責任者ら自身が規制を求めていることを指摘しました。「慎重に、しかし緊急のスピードで実行します。リスクは高すぎて待機や遅延は許されません」とニュースム氏は知事官邸の発表で述べました。

知事官邸は、カリフォルニア州の法律はすでにAI政策の主要分野ほぼすべてに対応しており、フロンティアモデルの安全性、独立した監視、子ども向けおよびコンパニオンチャットボット、プライバシー、ディープフェイク、詐欺、サイバーセキュリティ、労働者、政府による導入を挙げています。ニュースム知事は、議会とトランプ大統領に対し、州の枠組みを検討・採用するか、少なくともそれを全国の基準として活用するよう求めていると同官邸は述べました。