ミリバンド、国連安全保障理事会にAI創業者の警告に対処するよう訴える

英国外相エド・ミリバンドは2026年9月23日、United Nations Security Councilに対し、人工知能の創業者からの警告に基づき、各国政府が協調して行動すべきだと述べ、安全性テスト、AI企業の透明性、国家のレジリエンスという議題を提示した。同日、Foreign, Commonwealth & Development Officeが議事録を公開したが、ニューヨークの国連で行われた内容と同一である。

UN Meetings Coverageはこの会合を安全保障理事会第10,228回会合として記録し、午後のセッションは「Artificial Intelligence and International Security」という題目で開催された。ミリバンドは、セッションの司会者と専門家スピーカーに感謝の意を表し、彼らが示した洞察に富んだ貢献を称えた。

創業者の警告と政府の義務

ミリバンドは理事会に対し、AIは間違いなく世界をより良く変える力を持っており、その実例は部屋に集まったすべての国の日常生活に見られると述べた。しかし、彼は、技術の創業者たちが現在、政府に対し厳しい警告を発していると指摘した。彼らはAIが害を及ぼす可能性を懸念しており、災害を防ぐために政府だけに任せることはできないと訴えている。

彼は、創業者の警告は正当であるため、政府は無視できないと述べた。政府は市民に対する責任を放棄できず、問題の大小に関わらず、公共の保護という政府の最優先義務を民間企業に委ねることはできない、と付け加えた。

ミリバンドは、安全保障理事会は当時の最大の共同課題に対処するために設立されたと述べ、現在の義務は政府が協力し、さらに産業界と連携して、代表する国民の利益のために取り組むことにあると指摘した。英国政府はこれに全力で取り組むと述べた。

安全性、透明性、レジリエンス

ミリバンドは三つの取り組み領域を示した。第一は安全性であり、最先端AIモデルが厳格にテストされるよう取り組みを強化し、モデル開発に関する保証体制を構築して、政府がモデルの安全性に対する信頼を確立できるようにすべきだと述べた。

次に、透明性であると彼は述べた。モデルを構築する企業を単に任せきりにすることはできず、政府はAI企業の活動を理解し評価できる可視性を持たなければならない。ミリバンドは、主要なAI企業がその可視性を提供することを約束していると指摘し、これは政府と企業が実行すべき提案であると述べた。

三番目はレジリエンスであり、AIがもたらすインシデントの影響を軽減するために防御を強化すべきだと述べた。たとえすべてのモデルがテストされても、AIの悪用に備える必要があると彼は指摘した。これにはサイバー防御の強化、重要インフラの保護、金融システムの強化が含まれ、さらにAIが人々の生活や働き方にもたらす変化に対応し調整できるよう、国民を支援しつつ、その恩恵を活用することが求められる。

AIセキュリティ研究所とG20議長国

ミリバンドは、英国がこのプロセスで全面的に役割を果たすと述べた。英国は最初のAIセキュリティ研究所を設立したとし、同研究所は専門知識、テスト能力、研究を共有し、米国やAI安全性に関する主要ラボと緊密に協力していると説明した。

研究所は自らを、科学・イノベーション・技術省の研究組織として位置付け、主要なAIシステムを公開前にテストし、Inspectなどの評価ツールをオープンソース化していると説明している。研究はサイバー悪用、セーフガード、アラインメント、制御、自律性、人間の影響、社会的レジリエンスにわたり、会計年度ごとに6,600万ポンドの資金、100名超の技術スタッフ、主要AIモデルへの事前導入アクセスで支えられている。

2026年9月23日にも、Cabinet Officeが発表したところによると、ジェイド・リュウ博士がAIセキュリティ研究所の副議長兼政府のAIタスクフォースのセキュリティ顧問に就任するという。彼女は個人的事情により、2026年9月末をもって首相のAI顧問および同研究所の最高技術責任者のフルタイム職務から離れる予定で、適時新たな首相AI顧問が任命される。リュウはスタンフォード大学フーバー研究所の名誉客員研究員としてパートタイムの職も務めることになる。

ミリバンドは、アンディ・バーンハム首相が2026年9月22日に示したように、英国は2027年のG20議長国においてAIを中心に据えると述べ、政府、産業、研究者、市民社会を結集してきた実績に基づくと付け加えた。首相官邸が発表した 2026年9月22日、英国主催のG20リーダーズサミットが2027年11月にマンチェスターで開催され、2026年12月のマイアミでのG20サミットに続き、英国が米国から議長国を引き継ぐことも発表された。同じプレスリリースでは、英国防衛省のRapid AI Delivery Taskforceと米国防省のChief Digital and Artificial Intelligence Officeが提携する英国米AIおよび自律性パートナーシップが発表され、信頼できる相互運用可能な能力の提供を加速し、海上航路や空域を含む重要な国家インフラの保護に寄与するとされた。このパートナーシップは、AUKUSを通じて既に開発中の次世代技術に基づくものだ、とリリースは述べた。

グローバル標準と最後の訴え

ミリバンドは、単一のグローバル原則と標準に合意する作業に言及し、これにより透明性とアクセスが確保され、備えが強化され、AI開発の安全性が保証されると述べた。前のスピーカーの指摘を引用し、AIの可能性は、雇用の将来や子どもの保護からサイバーセキュリティ、バイオセキュリティ、国家安全保障、金融安定に至るまで、グローバル・サウスとグローバル・ノースの双方に活用されるべきだと語った。

2026年9月21日、国連事務総長アントニオ・グテーレスが声明を発表した フィンランド大統領とノルウェー首相が開始した「フロンティア人工知能モデルの管理への呼びかけ」を歓迎した。このイニシアチブは、国連加盟国に対し、既存の国際的メカニズムを活用し、標準設定・検証を可能にし、能力閾値が越えられた際に国家を招集できる国際機関の創設を検討するよう求めている。グテーレス事務総長はまた、独立国際科学パネル on AI がまとめたAI安全性と人間の制御喪失リスクに関するテーマ別ブリーフを歓迎し、フロンティアAIラボやAI安全性研究所を含む外部専門家に対し、パネルへの参加を促した。

ミリバンドは、進歩と安全のどちらかを選ぶという考えを否定して締めくくった。イノベーションとAIの恩恵は、適切な安全策が整っていることへの信頼が人々にある場合にのみ実現できると述べ、政府はAIを安全で信頼でき、かつ成長促進や疾病治療、個人の人生機会の向上という潜在力を伸ばすために必要なあらゆる措置を講じなければならないと主張した。「警告を受けていないとは言えない」と彼は述べた。「警告は受けている」政府は、創業者の警告に対処し、かつ協調して行動すべきだと彼は付け加えた。