AIエージェントには、優れたデータだけでは不十分な理由

長年、企業向けAIについて最もよく聞かれる助言の一つは、まずデータを整えることでした。その考え方は明快です。システムが有用な判断を下すには、正確でアクセスしやすい情報が必要です。

この考え方は今も正しいものの、AIエージェントが質問への回答やコンテンツの生成から、従業員や組織に代わって行動するようになるにつれ、それだけでは不十分になりつつあります。データから、顧客、取引、請求、依頼について何が事実かをエージェントに伝えることはできます。しかし、次に何をすべきか、あるいは行動を起こした結果どうなるかまで、必ずしも伝えられるわけではありません。エージェントが単に回答を提供するのではなく、依頼を承認したり、記録を更新したり、顧客に連絡したり、案件を先に進めたりする場合、この違いは重要です。

企業の従業員には、承認プロセス、業務ルール、依存関係、例外、エスカレーション経路を含む体制の中で業務を進める方法を身につけることが求められている。エージェントにも同じことを可能にする手段が必要だ。Gartnerは、2026年末までに企業向けアプリケーションの40%にタスク特化型AIエージェントが組み込まれると予測している。これは2025年の5%未満からの増加であり、こうした状況では、エージェントの知識不足はますます無視しにくくなるだろう。

Gartner はさらに、2028年までに、エージェント型AIがもたらす具体的なROIの80%は、専門化された分野特化型エージェントによるものになると予測しています。専門化は重要ですが、それだけでは問題の一部しか解決しません。特定の分野に詳しいからといって、エージェントが自らの責任の範囲や、大きなプロセスの中でのタスクの位置づけ、担当範囲を超えた場合に誰が引き継ぐべきかを自動的に把握できるわけではありません。エージェントが企業業務において信頼できる担い手となるには、ワークフローのプロセスに関する文脈と業務データの両方が必要です。

優れたデータだけでは、次に何が起きるかをエージェントに伝えられない

融資の申請を考えてみましょう。エージェントは、申請者の金融履歴、職歴、その他の関連記録にアクセスできるかもしれません。こうした情報は申請内容を理解する助けにはなりますが、組織が申請をどのように処理するかまでは伝えません。

どの審査を最初に行う必要があるでしょうか。申請者がある条件は満たしていても、別の条件を満たしていない場合、何が変わるでしょうか。案件を先に進めるには、どの情報が必須でしょうか。どの判断は自動で行え、どの判断は融資審査担当者に回す必要があるでしょうか。

企業業務の大半には、こうした条件分岐が数多くあります。特定の基準を満たせば自動的に先へ進むプロセスもあれば、追加情報を集めるためにいったん停止するものや、例外が発生するとまったく別の経路をたどるものもあります。適切な次の行動は、入手可能な情報だけでなく、業務が現在どの段階にあるか、これまでに何が起きたかにも左右されます。

このことは、企業向けエージェントにとっての信頼性の意味を変えます。次の行動が間違っていれば、回答が正確なだけでは不十分です。エージェントは目の前の情報を正しく解釈していても、案件を誤った段階に進めたり、必要な承認を飛ばしたり、前提となる作業が完了する前に行動したりする可能性があります。

McKinseyは最近、ある医療技術企業との取り組みから得られた知見を共有しました。同社は、導入していたAIプラットフォームが中核的なワークフロールールのいくつかに対応できないことに気づきました。こうした不足に対処するために導入日を延期するのではなく、同社は予定どおりに進め、結果としてAIが本来もたらすはずだった価値の推定30%を実現できませんでした。この事例は、タスクを完了するために必要な情報だけでなく、そのタスクを取り巻くプロセスも企業が考慮する必要があることを示しています。

エージェントが下せる判断に応じてガードレールを設ける

エージェントが行動できるようになるにつれ、ガバナンスもより具体的にする必要があります。ポリシー文書を取得するエージェントと、顧客のアカウントを変更したり、支払いを承認したり、取引を開始したりするエージェントとでは、リスクの度合いが異なります。それでも組織は、エージェントに自由に行動させすぎるか、ほぼすべての行動に人間の承認を求めるかという、両極端のいずれかに陥りがちです。

エージェントに設ける管理策は、エージェントが下せる判断と、その潜在的な影響を反映する必要があります。リスクが低く反復的な行動であれば、エージェントに単独で実行させてもよいでしょう。別の行動では、一定額を超える場合に承認が必要になるかもしれません。通常と異なる案件は、直ちに従業員へエスカレーションする必要があるでしょう。

人間による監督は、意図をもって設計されている場合に最も効果を発揮します。定型的な手順のすべてに人の承認が必要なら、エージェントを導入するメリットの多くが失われます。しかし、実際に判断や説明責任が求められる決定からチェックポイントを取り除けば、別の問題が生じます。

IBM Researchは、エージェントに許可される行動と、人間による監督が必要となる時点について、明確なルールを設けるべきだと提唱している。こうした管理策では、エージェントが関与するプロセスも考慮する必要がある。案件の開始から終了まで、エージェントに与えられる権限が必ずしも一定とは限らない。安全に実行できることは、プロセスの段階、すでに確認された情報、これまでに下された判断、そして次の行動がもたらす結果によって異なる場合がある。

つまり、組織はワークフローそのものにガバナンスを組み込む必要があります。エージェントに幅広い権限を与え、あらゆる場面でその判断に委ねるのではなく、どこで自律的な行動を認めるのか、どこで追加の条件を満たす必要があるのか、そしてどこで責任を人に引き継ぐのかを定めることができます。問われるのは、エージェントが自律的かどうかではなく、プロセスのどの部分で自律性を発揮するのが適切かということです。

エージェントは既存の業務環境と連携する必要がある

エージェントが企業内の他のシステムや部門と連携する場合、プロセスの文脈はさらに重要になります。組織は何もないところから始めるわけではありません。顧客からの一つの依頼が、すでにCRM、文書リポジトリ、ケース管理プラットフォーム、ERPシステムの間を移動し、複数の部門の従業員が関わっている場合もあります。

そうした環境の一部にエージェントを導入しても、プロセス全体が自動的に効率化されるわけではありません。エージェントが個別のタスクを完璧にこなしても、その後、従業員が出力を別のアプリケーションにコピーしたり、次に誰が必要とするのかを判断したり、別の場所でプロセスを手動で再開したりしなければならないなら、ボトルネックが移動したにすぎません。

だからこそ、企業はエージェントを孤立したツールではなく、より大きなプロセスに参加する存在として考える必要があります。何がエージェントの起動条件になるのでしょうか。どのような情報を受け取るのでしょうか。何を担うのでしょうか。エージェントが作業を終えた後、その業務はどこに引き継がれるのでしょうか。そして、タスクを完了できない場合には何が起こるのでしょうか。

組織が複数の専門特化型エージェントを導入するにつれて、こうした問いはさらに重要になります。Deloitteは、異なるエージェントがそれぞれ固有の役割を担い、業務を連携して進めるマルチエージェントシステムへの移行を目指す企業にとって、オーケストレーションが重要な要件であると指摘しています。企業におけるオーケストレーションは、エージェントが個別にどのように動作するかだけでなく、相互にどのように通信し、連携するかにも及ぶ必要があります。こうした監督がなければ、エージェントは不完全な文脈に基づいて行動したり、相反するアクションを引き起こしたり、既定の業務ルールや承認プロセスを迂回したりするおそれがあります。エージェントが動作するのは、既存のアプリケーション、従業員、業務ルール、そして数日、数週間、あるいは数か月にわたって進むこともあるプロセスが存在する組織の中です。

まず、完了させる必要のあるプロセスを起点に、エージェント、人、既存システムがそれぞれどのような役割を担うのかを定めます。エージェントがある段階を自律的に処理し、別のエージェントが専門的な確認を行い、従業員が判断を下し、既存システムが最終的な取引を実行することもあります。重要なのは、参加者の間で業務を引き継ぐ際に、文脈が失われないことです。

自律性には仕組みが必要

エージェントにより多くの仕組みを与えることは、あらゆる行動に制限を重ねるという意味ではありません。むしろ、逆の場合もあります。プロセスが明確であれば、境界、例外、エスカレーションの基準があらかじめ定められているため、組織はエージェントがどこで自律的に動けるかについて、より確信を持てます。エージェントが価値を生み出すために、無制限の自由が必要なわけではありません。業務を前に進めるための十分な責任、次に何をすべきかを判断するための十分な文脈、そして責任を他に引き継ぐべきタイミングについての明確な理解が必要です。

データの改善によって、エージェントの能力は今後も高まり続けるでしょう。しかし、能力があるだけでは、企業内で役立つ存在にはなりません。本当に問われるのは、企業が定めた境界の中で、プロセスの適切な段階に、適切な行動を取れるかどうかです。