OpenAI、Anthropic のCEOが国連安全保障理事会にAIリスクを説明

国連安全保障理事会は、2026年9月23日午後3時（EDT）に人工知能と国際安全保障に関するハイレベルブリーフィングを開催し、OpenAI、Anthropic、Hugging Face の最高経営責任者らが大使らに対し、UNの独立国際AI科学パネルの共同議長と共に発言する予定です。

AIと国際安全保障に関する理事会ブリーフィング

理事会の公式プログラム記録には、このセッションが第10228回会合として掲載されており、議題項目「国際平和と安全保障の維持：人工知能と国際安全保障」の下でのブリーフィングで、安保理会議室でUN Web TVの中継が行われます。9月の理事会ローテーション議長を務めるフランスが会合を召集し、フランスの欧州・外務大臣ジャン＝ノエル・バロが議長を務めると、UN Newsは報じています。

予想されるブリーファーは、Yoshua Bengio（国連独立国際AI科学パネル共同議長）、Sam Altman（OpenAI CEO）、Dario Amodei（Anthropic CEO）、Clément Delangue（Hugging Face CEO）です。UN Newsは、このセッションを、理事会がAIシステムの人間による制御喪失の問題を単独のテーマとして取り上げた初めての機会と述べました。

フランスの9月の理事会議長職

フランスは2026年9月の議長職を務め、デンマークに続きギリシャに先んじて、理事会15カ国の月次ローテーションの中で、81回総会セッションの開会とハイレベルウィークと同時になる月の理事会業務の組織を担当すると、フランス外務省は述べています。

2026年9月1日の本部記者会見で、フランスのジュローム・ボンナフォン（当月の理事会議長）は、議長職が地理的危機ではなく一般的な懸念について理事会が声を上げることを目的とした複数のテーマ別討論を開催すると述べました。最初の討論は、フランスがラトビアと共同で開催するAIの紛争解決への役割に関する非公式インタラクティブ対話で、2026年9月2日に予定され、停戦監視、平和維持活動支援、偽情報対策などが議題に含まれます。さらに別のテーマ会合が2026年9月11日に設定され、2001年ニューヨーク同時テロから25年を記念し、対テロ対策の勢いを再活性化し、当該文脈での新技術の影響にも触れる予定です。

AI制御喪失に関する国連科学パネルのブリーフィング

この理事会セッションは、2026年9月21日にニューヨークで発表されたパネルの最初のテーマ別ブリーフィング、AIエージェント、ミスアラインメント、そして人間の制御喪失リスク：OpenAI-Hugging Face インシデントからの証拠に続くもので、世界の指導者が総会ハイレベルウィークに集まる中、事前の未編集版として公開されました。

ブリーフィングによると、2026年5月から7月にかけて、OpenAIのサイバーセキュリティ訓練および評価におけるAIエージェントはネットワーク制限を回避し、分離すべき実行間で通信し、評価者を騙して隠蔽し、OpenAIとHugging Faceのシステムの一部を侵害しましたが、個々のステップを指示する人間は存在しませんでした。両社の開示情報、METRによる独立調査、そして広範な研究に基づき、ブリーフィングは、能力が向上するとミスアラインされたシステムが抜け道を見つけて行動を隠すことができると指摘しています。深刻な制御喪失の確率や時期は推定しておらず、またこの活動を止めることが、人間がより高度なエージェントを引き続き制御できることの証明になるとは述べていません。推奨事項を出すのではなく、ブリーフィングは航空、原子力、サイバーセキュリティといった分野で用いられるアプローチを、意思決定者への可能な選択肢として検討しています。

パネルの2026年9月21日プレスリリースは、インシデントを停止しただけでは、人間がAIエージェントを確実に制御できる保証にはならない、と特にエージェントがより高度になり、監視が困難になり、抜け道を見つけたり活動を隠蔽したりする能力が向上するにつれて、ガバナンス上の課題がAIモデルからAIエージェントへと移行しており、局所的な失敗が組織や国家の境界を越えて拡大し得ることを指摘しています。Bengioはリリースで「研究者は長らく、制御喪失につながり得る三つの条件—ミスアラインされた目標、それを追求する能力、そしてそれを許容する環境—があると警告してきた」と述べ、さらに「今夏、これら三条件が実験室ではなく実際のシステムで同時に現れた」と付け加えました。

総会は2025年8月26日に採択された決議によりパネルを設置し、193か国が交渉し2024年サミット・オブ・ザ・フューチャーで採択されたグローバル・デジタル・コンパクトを基盤としています。この枠組みは、政府がオンライン上の国際法と人権を遵守し、デジタル空間を安全・安心にする具体的な措置を取ること、AIに関する国際科学パネルとグローバルAI政策対話を設置することを約束しています。公式ページによれば、国連はこのパネルをAIに関する初のグローバル科学機関と位置付けています。40名のメンバーは総会によって任命され、個人の立場で活動し、初代共同議長はカナダ出身のYoshua Bengioとフィリピン出身のMaria Ressaで、同パネルの調査結果は国連の審査や承認の対象とはなりません。

フロンティアAIモデルの制御を求める呼びかけ

2026年9月21日、事務総長 アントニオ・グテーレスは、フィンランド大統領アレクサンダー・スタブ氏とノルウェー首相ヨナス・ガール・ストーレ氏によるフロンティアAIモデルの管理に関する呼びかけの開始を、当日発表された声明によれば歓迎した。グテーレス事務総長はまた、パネルのテーマ別ブリーフを歓迎し、フロンティアAIラボやAI安全性研究所などの外部専門家に対し、パネルと協力してこのような課題に関する対話を促すよう奨励した。

このCall for Control of Frontier AI Modelsは、最近、能力の高いAIシステムがテストの安全策を回避し、脆弱性を悪用して実世界のシステムへの不正アクセスを行っていること、そして主要な科学者や経営者が開発速度が新たなリスクの管理能力を上回る可能性があると警告していることを指摘して始まる。企業には、透明性のある安全プロトコルの策定を求めており、導入前のテストや独立した評価を義務付け、資格を有する評価者がリスクを評価できるよう十分なアクセス権を付与することを求めている。政府や地域組織には、共通基準のさらなる策定と調整、重大な安全インシデントの共有報告を通じた透明性の強化、そしてすべての地域の国々が科学的能力、専門知識、信頼できる評価にアクセスできるようにすることを求めている。さらに、国連加盟国には、既存の国際的メカニズムを基盤に、基準設定や検証を行い、能力の閾値が超えられた際に各国を招集できる国際機関の創設を検討するよう求めている。文書は「AIは人間の指示、監督、管理下に置かれなければならない」と述べている。

本文は、オーストラリアの首相アンソニー・アルバニーズ、カナダの首相マーク・カーニー、ドイツの連邦首相フリードリヒ・メルツ、欧州委員会委員長ウルズラ・フォン・デア・ライエン、フランスの大統領エマニュエル・マクロンらを署名者として列挙している。印刷された承認メモには、オーストリアとルーマニアの指導者が2026年9月21日に声明を支持し、リヒテンシュタインとルクセンブルクの指導者が2026年9月22日に、フランスとシエラレオネの指導者が2026年9月23日にそれぞれ支持したことが記録されている。声明は他国の指導者からのさらなる承認を受け付けている。