エージェント型AIプロジェクトが中止される理由と、8週間のパイロットで押さえるべきポイント

顧客が返金を求めると、エージェントはCRMで注文を見つけ、返品ポリシーを確認し、1分もかからずに返信文を作成する。ところが、返金の承認が接続されていない財務システム上で必要になり、顧客の住所も2つのデータベース間で一致しないため、そこで処理が止まってしまう。この種の問題はデモでは表面化しにくいが、エージェントの運用コストや、信頼できるかどうかを左右する。つまり、より大きなリスクはモデルそのものではなく、エージェントが投入される企業内でのエージェント型AIの活用にある。

Gartnerは、2027年末までにエージェント型AIプロジェクトの40%超が中止されると予測し、その背景としてコストの増加、ビジネス価値の不明確さ、リスク管理の不備を挙げている。この予測を注意深く読むと、問題はデモの印象だけを頼りにプロジェクトが承認され、現時点で業務にどれだけのコストがかかっているのか、成果に誰が責任を持つのかがほとんど見えていないことにある。

経営陣に問いたいのは、このエージェントが毎日業務を担うことを、企業として無理のないコストとリスクの範囲で支えられるかどうかだ。その答えを出すには、私が「自動化後に残る業務」と呼ぶもの、つまりエージェントが担当分を終えた後も人が続けなければならないすべての作業を、詳しく見ていく必要がある。8週間のパイロットは、全面導入を決める前にそれを測定する実践的な方法だ。

エージェントが企業から引き継ぐ課題

一見単純な作業でも、顧客記録や2つほどの業務アプリケーションに触れ、通常は承認も必要になるため、エージェントが単独で作業することはほとんどない。接続のたびに、エージェントが参照できる情報や実行できる操作には制限が生じる。記録に一貫性がなかったり、誰が承認するのかがはっきりしなかったりすれば、エージェントは作業だけでなく、その混乱まで引き継ぐことになる。

定型的なケースはめったに問題にならない。運用コストがかさむのは例外的なケースであり、まさにデモでは避けられがちな部分だ。Deloitteの2026年の調査によると、自社の業務プロセスがAIエージェントに十分対応できると評価した組織はわずか5%だった。この数字はモデルのベンチマーク結果よりも多くを物語っている。多くの業務プロセスの準備が整うより、AIの準備のほうがはるかに早く進んでいることを示唆するからだ。

自動化後に残る業務も含めてビジネスケースを考える

エージェントがどれほど速く結果を出すかを測るのは、その価値を実際以上に見せる最も簡単な方法だ。重要なのは、タスクを完了するまでに必要な労力だからである。たとえば、従業員なら処理に20分かかる依頼を、エージェントが最初の処理まで2分に短縮できたとする。一見18分の削減に見えるが、その後、誰かが結果の確認と誤りの修正に15分かければ、節約できたのはわずか3分だ。エージェントの運用コストまで差し引くと、3分の削減では十分な見返りとは言いにくい。

McKinseyによる銀行の顧客サービスエージェントの分析も、規模を拡大すると同じ傾向が現れることを示している。変動運用コストのうち、トークンが占める割合は20～25%だった一方、人による監督は70～75%を占めており、コストの大半はモデル以外にかかっていた。誰かがコードを書き始める前に基準値を設定しておかなければ、パイロットで技術面の進展を十分に示せても、投資の妥当性は検証されないままになりかねない。少なくとも、事業責任者は次の各項目について明確な答えを用意する必要がある。

• 処理量：プロセスがどのくらいの頻度で実行され、何人が関与するか。
• 完了までの時間：確認や修正も含め、タスク全体にどれだけ時間がかかるか。
• 正確性：どのくらいの頻度で誤りが起きたり、やり直しが必要になったりするか。
• タスクあたりのコスト：現在、タスクを1件正常に完了するのにいくらかかるか。
• ビジネスへの影響：実際に改善した場合、顧客、従業員、または事業にどのような変化が生じるか。

エージェントはワークフローの中で価値を示さなければならない

導入の定着は通常、チェンジマネジメントの課題として扱われるが、私の経験では、もっと早い段階で、エージェントをワークフローのどこに配置するかによって決まる。あるグローバルなプロフェッショナルサービス企業は、サポート業務とコンプライアンス業務向けにエージェントを開発していた。サポート担当のエージェントは複数の社内システムから情報を取得できたものの、利用するには別のアプリケーションを開く必要があり、ほとんどの従業員は使おうとしなかった。同じワークフローを既存のサポートプラットフォームに移すと、担当者がすでに対応していたチケットの画面内にエージェントが表示されるようになった。コンプライアンス審査エージェントも同様にSalesforceに組み込まれ、ケースが作成されるたびに実行されるようになった。

エージェント自体は何も変わらず、変わったのはワークフロー内での配置だった。担当者はチケットを開いたりケースを作成したりする必要がもともとあったため、そのタイミングでエージェントを利用できるようにしても、余計な手間は生じなかった。したがって、配置は導入定着のためだけでなく、アーキテクチャ上の判断でもある。エージェントが業務の現場で必要な文脈を得られ、その出力が誰かの手作業による転記なしに次の工程へ引き継がれる必要があるからだ。

自律性によってセキュリティ上の構図が変わる

情報の読み取りしかできないエージェントには特有のリスクがある一方、記録を変更したり顧客にメールを送ったりできるエージェントには、まったく別のリスクが伴う。そのため、管理策はエージェントに実際に許可されている操作に応じたものでなければならない。過剰な権限や機密データの漏えいはよく知られたリスクだが、特に注意すべきなのはプロンプトインジェクションだ。これは、エージェントが正当な業務を行う過程で取り込む文書やメールに、気づかれないよう指示が埋め込まれていることを指す。

Gartnerが2026年5月に示した、エージェントのガバナンスに関する指針では、自律性を4段階に分けています。これは、制御をどの程度厳格にする必要があるかを判断するうえで、実践的な枠組みとなります。

1. 観察：エージェントは情報を取得してパターンを見つけますが、アクセスは読み取り専用です。
2. 助言：エージェントが行動を提案し、従業員が判断を下します。
3. 承認を得て実行：エージェントが行動を準備するか開始し、人が承認してから実行されます。
4. 自律的に実行：設定された制限の範囲内で、承認済みの行動を自ら実行します。例外が発生した場合に備え、監視とエスカレーションの仕組みを設けます。

どの段階でも、エージェントには専用のID、タスクに必要な範囲に限定した権限、実行した各アクションの記録が必要です。また組織には、データの取り扱いと保持に関するルール、外部のモデルプロバイダーに何が送られるのかを明確にすること、そして問題の兆候があれば直ちにエージェントを停止し、アクセス権を剥奪できる権限を持つ担当者も必要です。

権限の拡大、監視の追加、頻繁な承認はいずれも時間の経過とともに積み重なるため、こうした制御にはそれぞれ継続的なコストがかかります。したがって、適切な自律性の水準はセキュリティ上の判断であると同時に経済的な判断でもあり、事業が許容できるリスクの範囲で、エージェントが十分な成果をもたらす水準に定めるべきです。

エージェントの導入を正当化できるプロセスを選ぶ

多くのチームは、まずテクノロジーありきで考え、そこから課題を探し始めます。しかし、より良い出発点は、作業に携わる人たちにもコストや遅延がすでに明らかなプロセスです。

私たちが支援した、あるグローバルなエキスパートネットワーク企業は、まさにその例でした。同社のチームは、互いに連携していない3つのシステムを使い、アンケートの依頼に適した専門家を探していました。照合のたびに、プロフィール、過去の参加履歴、コンプライアンスを手作業で確認していたのです。そこで、セマンティック検索に参加履歴とコンプライアンス規則を組み合わせたエージェントを構築したところ、本番環境での不一致に関するチケットは80％減少し、照合精度は40％向上、チームの業務余力は22％増加しました。

このプロジェクトが成功したのは、課題が具体的だったからです。情報が分散し、手作業で突き合わせる必要があり、照合の質を導入前後で測定できました。課題を具体化することで、そもそもそのプロセスにエージェントが必要かどうかも判断しやすくなります。固定ルールに従う作業は、通常、従来型の自動化でより低コストに処理できます。また、情報の検索や要約が中心の作業には、AIアシスタントが適している場合が多くあります。一方、文脈を読み取り、許可された行動から選択し、複数の手順をつないで成果を上げる仕事であれば、エージェントが追加のコストとリスクに見合う価値を発揮します。

判断の節目を明確にした8週間のパイロット

パイロット全体を貫くのは、商業上の問いひとつです。このエージェントは、プロセスを大規模に運用する価値があるほど改善できるでしょうか。8週間あれば、ビジネス上の妥当性、技術、そして構築したものを組織が管理する能力を検証できます。

第1～2週：改善すべき点を明確にする

まず、現在のプロセスを記録します。処理量や完了までの時間から、エラー率、手戻り、コストまでを把握しましょう。関係するシステム、各段階の担当者、人の判断が必要な例外も記録したうえで、事業責任者と技術チームが、エージェントによって改善を目指す成果をひとつに定めます。判断の節目：課題、基準値、責任者、成功の測定指標が明確になったら、次に進みます。

第3週：エージェントの境界を定める

この段階で、エージェントのID、権限、データへのアクセス、使用を認めるツール、自律性の程度など、その動作範囲を定めます。プロンプトインジェクション、不正アクセス、機密データの漏えい、ツールの不正使用を想定してテストし、ログ記録とインシデント対応の体制を整えるとともに、エージェントを停止したりアクセス権を剥奪したりする手段も用意します。判断の節目：制御と介入手順を実際にテストし、エージェントに許可されていることを全員が把握したら、次に進みます。

第4～6週：デモが破綻する条件をテストする

次に、不完全な記録、矛盾する情報、想定外の依頼、ときおり発生するシステム障害などを含む、現実的な業務をエージェントに処理させます。完了したタスク数、精度、人がどれだけ修正しなければならなかったかを記録しましょう。そのうえで、モデルの利用、連携、監視、レビューの費用をすべて含め、タスクを正常に完了する実際のコストを算出します。判断の節目：合意した基準をエージェントが満たし、チームが運用コストと失敗のパターンの両方を把握したら、実環境でのテストに進みます。

第7～8週：実際の利用者に使ってもらう

少人数の従業員グループに、実際の業務の一部を限定して任せます。エージェントが対応できない業務には、従来のプロセスも引き続き使えるようにしておきましょう。実際に利用されるか、作業の負担が軽減されるか、そして生成された内容を信頼してもらえるかを確認します。

最後に、週1に設定した基準値と結果を比較し、生産性、精度、導入状況、人が介入しなければならなかった頻度、総運用コスト、未解決のセキュリティリスクを確認します。そのうえで、規模を拡大するか、具体的な不足を修正して再テストするか、あるいは中止するかを決めます。エージェントのコストが高すぎる、または業務に対して信頼性が足りないとパイロットで分かったとしても、パイロットの役割は果たされています。憶測に基づく、より大規模な投資を防げたからです。

成果を測定し、どこまで自律性を与えるかを決める

エージェントが処理したタスクの数だけを数えても、得られる情報はほとんどありません。システムが何千もの依頼を処理しても、その大半について従業員が確認、修正、または仕上げをしている可能性があるためです。正常に完了したタスク1件あたりのコストを、精度や例外発生率とあわせて見ることで、プロセス全体が改善したかどうかをはるかによく把握できます。

同じ指標を、エージェントにより大きな裁量を与える根拠にもできます。合意した範囲内で定型的な依頼を安定して処理できるエージェントには、それらを単独で実行させてもよいでしょう。一方、曖昧なケースに繰り返し直面するエージェントについては、そうした判断を人間が承認し続け、根拠が蓄積されるのに応じて権限を見直します。

エージェントを支えられる体制が整ったら拡大する

あるチームでうまく機能しているエージェントも、いずれはほかの部門やアプリケーション、承認プロセスにも対応する必要があります。導入を拡大するには、明確な責任者、一貫したアクセス制御、例外への対処方法が欠かせません。また、周辺のプロセスが変化してもエージェントを最新の状態に保てるよう、予算も確保する必要があります。

こうした判断の根底にあるのは、組織がどこまでの責任をエージェントに委ねる準備ができているかという点です。その判断は、見栄えのよいデモではなく、実際の業務から得られた証拠に基づかなければなりません。経営陣は8週間の取り組みを終えた時点で、エージェントが対応できる業務、人が引き続き介入する必要のある場面、そして運用コストを把握しているべきです。エージェント型AIで先行する企業は、初週から自動化後の業務を見据えて設計し、エージェントが実際に完了したタスクに資金を投じる企業です。