ホワイトハウスの要請、米国AI安全センターの独立性に懸念

AP通信が報じたところによると、2026年11月8日、超知能のイノベーションと標準の推進センター（CAISSI）の職員は最近、ホワイトハウスのある部局に非公式に報告するよう求められた。これを受け、連邦政府によるAI安全性評価の独立性に懸念が生じている。

現在進行中の協議に詳しい元政府高官2人は、現職職員への影響を避けるため匿名を条件に、この要請について説明した。どの部局かは明らかにされておらず、報じられた協議が扱っているのは、正式に発表された組織再編ではなく、非公式な取り決めである。

批判する人々は、この取り決めによってサイバーセキュリティや生物兵器に関わる判断が政治化し、自らを規制する役割を大きく担ってきたテクノロジー業界に配慮して、調査結果が改変されたり、表現を抑えられたりするおそれがあると警告した。Federation of American ScientistsでAI・新興技術プログラムのマネージャーを務めるCaroline Siegel Singhは、公共の利益に資する政策は、党派にとらわれない、あるいは超党派の技術専門家が策定すべきだと主張した。

一方、Donald Trump大統領との結びつきが強まれば、この部門の存在感が高まり、資金も増える可能性があると主張する人々もいた。

幹部の交代と公表された成果

CAISSIは商務省の独立部門で、最近まで米国AI標準・イノベーションセンターと呼ばれていた。年間1,000万ドルが割り当てられており、これは英国にある同機関の相当組織の年間予算のおよそ8分の1にあたる。

所長は2026年4月に任命されたが、数日以内に解任された。後任も数カ月後に辞任し、センターには常任の責任者がいない状態となった。上位機関の長が、センターの暫定所長も兼務している。

2026年8月、議会は、特定のAIシステムがどの程度安全に機能しているかに関する報告書の公表をセンターが停止した理由について、質問を始めた。OpenAIも、この部門への資金と支援を増やすよう政策立案者に求めていた。

NISTのCAISSI公式ページには、さまざまな種類の成果物が日付入りで記録されている。研究ブログに掲載された最新の記事の日付は2026年3月23日である一方、ニュース欄には、Z.aiのGLM-5.3のサイバー能力に関する2026年9月17日付の評価と、インシデントへの備えと対応に関する2026年10月16日付の刊行物が掲載されている。

既存の自主的な枠組み

NISTは、CAISSIを、商用の超知能システムに関する試験や共同研究において、業界が主な窓口とする政府機関だと説明している。その任務には、測定指針、ベストプラクティス、自主基準の策定、開発者や評価者との自主的な合意の確立、そしてサイバーセキュリティ、生物安全保障、化学兵器に関わる、実証可能な国家安全保障上のリスクについて非機密の評価を主導することが含まれる。

また、敵対勢力のシステムについて、脆弱性、バックドア、その他の隠れた悪意ある挙動を評価する役割も担う。任務には、国防総省、エネルギー省、国土安全保障省、科学技術政策局、情報機関コミュニティと連携し、評価手法や評価結果を調整することも含まれる。

2026年6月2日発令の大統領令14409は、国家安全保障機関に対し、NISTなどと協議のうえ、先進的なサイバー能力を評価するための機密扱いの手続きを策定するよう指示している。この手続きは、「対象となるフロンティアモデル」を指定する基準を定めることを目的としている。

同命令はまた、開発者が、対象となるフロンティアモデルを他の信頼できるパートナーに公開する予定日の最大30日前から、政府にアクセスを提供できる自主的な枠組みを求めている。さらに、AIモデルの開発、公開、リリース、配布にあたり、政府がライセンス取得、事前審査、許可を義務付ける権限を与えるものではないと明記している。

したがって、独立性をめぐる争点は、この自主的な制度のもとで誰が技術的な調査結果の指揮や伝達を担うかであり、モデルのリリース前に承認する新たな連邦政府の権限をめぐるものではない。

企業主導の評価

Trump大統領は2026年9月、大手AI企業に対し、自主的な安全協定を通じて広範な自主規制に取り組むよう求めた。政権は、その実施状況をどのように監視するのか説明していない。

モデルが、継続的に人間から指示を受けなくても複数段階の作業を計画し、実行できるAIエージェントとして導入されるにつれ、評価の課題も変化している。University of Californiaのバークレー校情報学部で助教に就任予定のSayash Kapoorは、現実の環境でエージェントがどれほど安全に行動するかを検証する標準的な手順はないと述べた。例として、エージェントが航空券を予約する場合を挙げた。最終結果だけを確認すれば、作業が成功したように見えることがある。「しかし、エージェントが実行した一連の手順全体を確認しなければ、エージェントが重大なミスを犯したことは分からない」と同氏は述べた。

民間による評価が、必ずしも独立した歯止めになるとは限らない。AnthropicのCEOであるDario Amodeiと、OpenAIのCEOであるSam Altmanは、独立した評価機関を推進してきたが、自社に不都合な場合、両社はそれらの機関のアクセスを制限したり、評価結果を退けたりできる。

ホワイトハウスはCAISSIに関する具体的な質問には回答しなかったが、トランプ氏が超知能部隊を正式に設置し、Council of Advisors on Science and Technologyにリスク報告書の作成を依頼したと述べた。

市民の権利とテクノロジーを扱う非営利団体Upturnの上級プロジェクトディレクター、ローガン・コープケ氏は、企業が実施する内部評価や、企業が雇用する外部審査員による評価では、政府による検証の役割が不明確なままだと述べた。

Brennan Center for Justiceの上級法律顧問、エイモス・トー氏は、政府の役割を明確にしないまま研究機関に自社モデルの監視を任せれば、現実世界に被害をもたらす可能性のあるシステムに対する独立した検証が弱まると述べた。また、重大な影響を及ぼす決定は、公開の場で説明し、正当化されるべきだとした。

報じられた依頼を受け、具体的なガバナンス上の疑問が浮かび上がる。CAISSIの評価優先事項を誰が決め、その手法や調査結果はどの程度公開されるのか、という点だ。ホワイトハウスとの結び付きが強まれば、CAISSIの存在感が変わる可能性はある。しかし、それだけで、開発者が任意に提供するアクセスや企業が管理する民間審査と並行して、政府による独立した検証をどのように機能させるのかという問題が解決するわけではない。