ソートリーダー
意図から自律的な行動へ:エンタープライズにおけるAIエージェントのガバナンス

要点ガバナンスは、組織がどの責任を安全に委任できるかを定義するため、製品の内部に位置しなければならない。
もっと見る
- ガバナンスは、組織がどの責任を安全に委任できるかを定義するため、製品の内部に位置しなければならない。
- エージェント型コントロールプレーンは、エージェントのアイデンティティと承認された機能を、ポリシーの執行および実行の監督に結び付ける。
- 組織は狭いワークフローから始め、運用上の証拠がそれを裏付ける範囲でのみエージェントの権限を拡大すべきである。
「サービスを復旧せよ」という指示は、AIエージェントがその指示によって何を許可されているのか判断しなければならない段階になるまでは、単純に聞こえる。アプリケーションの再起動、設定の変更、インフラのプロビジョニングはいずれもその目的に役立つ可能性があるが、それぞれがもたらす結果は異なる。エージェントが行動を提案する段階から実行する段階へ移るにつれ、組織には、ビジネス上の意図と運用上の権限を明確に結び付ける仕組みが必要になる。
ガバナンスは、組織がどの責任を安心して委ねられるかを左右するため、製品の中に組み込まれるべきだ。合意された境界の範囲内で確実にタスクを完了し、その行動の証拠を示せるエージェントは、権限が曖昧なままのエージェントよりも、エンタープライズでの導入に向けた強固な基盤となる。アーキテクチャ上の課題は、こうした境界をシステムの動作に組み込むことだ。
こうした境界を実際に機能させるには、エージェントの行動を一貫した方法で統制する必要がある。エージェント型のコントロールプレーンは、エージェントのアイデンティティ、承認済みの機能、ポリシーの適用、メモリの制御、実行の監督を既存のエンタープライズシステム全体で連携させ、その基盤を提供できる。これにより、誰が行動を要求したのか、その行動を裏付ける権限は何か、どのリソースに影響を及ぼし得るのか、結果をどのように検証するのかが明確になる。
エンタープライズにおけるAIエージェントのガバナンスについて、私たちが推奨する実践的な指針を3つ紹介する。
機能と明示的な権限を結び付ける
すべてのエージェントに、特定可能な所有者、明確な目的、タスクに適した権限を設定すべきだ。これは、AIのライフサイクル全体を通じてガバナンスを継続的な機能として捉えるNISTのAIリスク管理フレームワークの考え方にも沿っている。エージェントについては、この原則を、行動によってエンタープライズシステムに変更が加わる瞬間まで適用しなければならない。あるエージェントが別のエージェントに作業を委ねる場合も、こうした境界を維持する必要がある。
機能を発見・把握する際にも、同様の規律が求められる。承認済みのカタログには、各ツールの目的、入力、出力、使用が認められる環境、起こり得る副作用を記載すべきだ。ツールを発見しただけでは実行権限は与えられないため、行動を試みる時点で認可を確認しなければならない。OWASPの「過剰なエージェンシー」に関するガイダンスも、機能と権限を制限し、後続システムで認可を徹底するよう推奨することで、この区別を強調している。
たとえば、エージェントがアプリケーションの動作低下を調査し、コンポーネントの再起動を提案する、サービス復旧の一連の作業を考えてみよう。ポリシー上、承認済みのテレメトリへのアクセスは認められている一方、本番環境での再起動には、冗長性が正常であることを示す証拠とサービス所有者の承認が必要だ。こうした条件によって、幅広い指示を、境界の明確な運用上の判断へと落とし込める。
運用上の意図を、統制されたツールに変える
承認済みの復旧ツールがあれば、エージェントはその機能を使ってリクエストを準備できる。そのようなツールがない場合は、スクリプト、手順書、入力スキーマ、ツール記述子の作成を支援し、運用上の意図を、他者が検証できる提案機能へと変換できる。これが、エージェントによるツールのコーディングがもたらす実践的な価値だ。エージェントはツールを使うだけでなく、運用を支える仕組みづくりにも貢献できる。
ただし、こうした仕組みを生成したからといって、自動的に本番環境で実行可能にすべきではない。提案された機能には、責任を負う所有者の明確化、セキュリティチェック、バージョン管理に加え、無効な入力、過剰な適用範囲、部分的な障害、繰り返し実行を対象とするテストを含む、独立したリリースプロセスが必要だ。エージェントが生成したテストも証拠の一部にはなり得るが、その機能が運用上の要件を満たすかどうかは、承認済みカタログに登録する前に独立して検証しなければならない。
実行に関する境界では、リソースの適用範囲、ネットワークアクセス、実行時間、支出を制限し、必要な承認は個々の行動、対象、バージョンにひも付けるべきだ。変更の中にはロールバックできるものがある一方、補償措置が必要なものや元に戻せないものもあるため、復旧策にも同等の注意を払う必要がある。各機能では、こうした制約を明確に示し、オペレーターが実行の継続を停止できる、テスト済みの方法を用意すべきだ。
保持された観測情報は、元の状況が変わった後も将来の判断に影響し得るため、メモリには別のガバナンス上の責任が伴う。組織は、エージェントが何を保存できるのか、情報をどれだけの期間利用可能にするのか、どのようなアクセス境界を適用するのかを定め、情報の出所を追跡する仕組みや訂正の仕組みで支えるべきだ。記憶された権限が恒常的な権限になってはならず、古くなった運用知識が新たな行動をひそかに導くことも避けなければならない。
証拠に基づいて自律性を高める
実効性のある監督には、元のリクエスト、適用されるポリシー、承認、ツールのバージョン、実行結果、その後の検証を結び付ける証拠が欠かせない。人間のレビュアーには、不要な詳細に圧倒されることなく、提案された変更、その不確実性、復旧の選択肢を評価できるだけの文脈が必要だ。監督を支えるため、エスカレーションは、観測結果の不一致や未知のシステム状態など、定められた条件に基づいて行うべきであり、エージェントが示す確信度だけに頼ってはならない。
IT部門の責任者は、まず対象を限定したワークフローから始め、運用上の証拠に基づいて権限を段階的に拡大すべきです。その際、成功した結果だけでなく、例外の発生件数、復旧に要する時間、ポリシー違反、監督にかかる労力も測定します。こうした指標は、エージェントにより大きな責任を任せる準備ができているか、また、どの領域で追加の安全策やテストが必要かを判断するのに役立ちます。
委任を再現性のあるものにすることが重要です。承認された能力ごとに、エージェントが何を、どのような条件の下で、どのような責任を負って実行できるかを明確にします。この規律により、レジリエンスと効率性を高めながら、組織がより大きな自律性を認めるための正当性を説明できる基盤を整えられます。最も重要な点は、こうした段階的な拡大を可能にすることで、ガバナンスが製品に不可欠な役割を果たすということです。












