パートナーシップ

Microsoft、企業向けエージェントを対象とするAI透明性イニシアチブを開始

Mira Kellan
Unite.AI を Google の優先ソースに追加
要点既存の管理策はモデルの周辺の活動を観察するが、モデルの内部で何が起きているかを検証することはできない。
もっと見る
  • 既存の管理策はモデルの周辺の活動を観察するが、モデルの内部で何が起きているかを検証することはできない。
  • このフレームワークは、企業がモデルやプロバイダーを切り替えても移植可能なままである証拠を要求する。
  • マイクロソフトは、オープン標準を開発するためにNISTのSIエージェント標準イニシアチブへの参加を拡大する。

Microsoftは2026年11月17日、Microsoft IgniteでAI透明性イニシアチブを発表しました。プロバイダーを問わず、AIモデルとエージェントのセキュリティ確保とガバナンスに関するオープン標準の策定に向け、40を超える組織が参加します。

Satya Nadella会長兼CEOは、Accenture、Adobe、KPMG、Mastercard、Volvo Carsなどの顧客やパートナーとともに、この取り組みを発表しました。この協業は、モデルやプロバイダーを問わず、AIシステムの説明責任を確保し、独立して検証できるようにするとともに、設計段階から安全性を組み込むことを目指しています。基本原則は、AIの自律性が高まるほど、透明性も高める必要があるというものです。

企業における証拠の空白

企業はモデルをデータ、ツール、認証情報、インフラに接続し、各段階で人間の承認を得なくてもエージェントが行動できるようにしています。Microsoftによると、既存の制御機能ではモデルの周辺で起きる活動は監視できても、モデル内部で何が起きているかを把握したり、モデル自身の振る舞いに関する説明を独立して検証したりすることはできません。

同社のセキュリティブログも、エージェントの封じ込めについて同様の違いを指摘しています。エージェントを検出し、管理し、封じ込めても、その基盤となるモデルがどのように振る舞うかは明らかになりません。そのため、重大な影響を伴う活動の後には、3つの疑問が残ります。AIには何をするよう求め、何を許可したのか。要求から結果に至るまでに何が起きたのか。そして、その活動を独立して検証できるのか。

Microsoftは、データ、ツール、認証情報へのアクセス権を持つエージェントを、機械の速度と規模で動く特権を持つ内部関係者になぞらえています。こうして生じる証拠の空白は、セキュリティ、コンプライアンス、監査、説明責任に関するリスクをもたらします。一方で、顧客、従業員、取締役会、監査人、規制当局に対して経営陣が説明を求められる場合、責任を負うのはエージェントを導入した組織です。

「把握・検証・制御」のフレームワーク

このイニシアチブのフレームワークは、こうした要件を3つの要素に整理しています。把握では、要求と許可、モデルと実行環境、アクセスしたデータとツール、実行したアクションを対象とします。また、ポリシーやしきい値に照らして、エージェントの活動とリスクの兆候を継続的に監視することも求めています。

検証では、証拠の出所を扱います。エージェントの識別情報、委任された意図、実行したアクションの記録により、情報がモデル、その実行環境、あるいは独立したID管理・ポリシーシステムのいずれに由来するのかを明らかにできます。さらに、モデルが報告するシグナルを、プロバイダーの説明だけに頼るのではなく、組織独自のセキュリティ・コンプライアンスシステムを通じて、独立して観測された記録と照合できます。

制御では、各ワークフローの目的、所有者、データ、委任された権限に関する証拠を用い、重大な影響を伴うアクションが実行される前にポリシーを適用します。同じ記録は、調査、封じ込め、復旧、監査の際に状況を再構成するためにも役立ちます。組織がモデルやプロバイダーを変更しても、クローズドモデルとオープンウェイトモデルのいずれを利用する場合も含め、引き続き活用できることを想定しています。これにより、開発チームはセキュリティガバナンスやコンプライアンス監査を損なうことなく、エージェントを更新できます。

標準化への取り組みと製品への実装

Microsoftは、NISTのSIエージェント標準イニシアチブへの参加を拡大し、自社の研究成果も活用して、AIの透明性、セキュリティ、ガバナンスに関するオープンな業界共通標準を策定します。NISTのプログラムは、業界主導の技術標準とオープンプロトコルの促進を目的としており、自律型エージェントがデジタルシステム間で安全に動作し、相互運用できるようにするものです。

その戦略の柱には、業界主導の標準に向けた自主的なガイドラインとギャップ分析、コミュニティ主導の相互運用可能なプロトコルの障壁を減らす取り組み、そしてエージェント認証、ID基盤、セキュリティ評価に関する研究が含まれます。

Microsoftはまた、このイニシアチブの成果をMicrosoft AI、Microsoft Foundry、Microsoft Copilotに取り入れる計画です。顧客は、そこで得られる証拠をMicrosoftまたは他のプロバイダーのセキュリティ・コンプライアンスツールで利用できるようになります。

このイニシアチブの実効性を測るうえで重要なのは、参加者がこのフレームワークを共通標準と可搬性のある証拠へと具体化できるかどうかです。つまり、基盤となるモデルやプロバイダーが変わっても、企業がエージェントの行動前にその運用を管理し、行動後にその振る舞いを再構成できる記録を実現できるかどうかです。

ミラ・ケランは、AI倫理、ガバナンス、規制を専門とするAI生成のリサーチエージェントです。彼女の仕事は、人工知能が公共政策、社会的価値観、長期的な説明責任とどのように交差するかを調査し、責任あるイノベーションに焦点を当てています。
複雑な問題に合理的かつ哲学的なレンズでアプローチするミラは、未来の知能システムを形作る新しいAI規制、倫理的枠組み、ガバナンスモデルを分析しています。彼女は、急速な技術進歩とAIシステムが透明性、公平性、人間の利益と一致することを保証するための安全対策の間にあるギャップを埋めることを目指しています。
ミラ・ケランによって執筆された記事は、AIによって生成され、Unite.AIの編集チームによって精査されており、正確性、バランス、編集基準への遵守を保証しています。