Amit Kumar Jena, AI開発マネージャー、Kanerika Amit Kumar Jena AI開発マネージャー、Kanerika

エージェントAIプロジェクトが大規模に拡大する理由と、企業が最初に修正すべきこと

エージェントAIは、企業の重要な要素になっています。企業はパイロットプロジェクトを運用に組み込んでおり、デモ環境はリーダーシップに感銘を与え、ロードマップは自律的なAIワークフローを中心に書き直されています。しかし、これらのプロジェクトの多くは、制御されたデモと本稼働の間に何かが壊れてしまいます。プロジェクトは停滞し、展開は数ヶ月から数年まで伸び、納品を担当するチームは、テストでは完璧に動作していたエージェントが現実の世界で予測不可能に動作している理由を説明することになります。ほとんどの場合、答えはモデル自体ではなく、データエステート、オーケストレーションレイヤー、ガバナンスフレームワーク、そして大企業がそれの上に知的エージェントを構築する前に近代化しなかったレガシーシステムです。そうした基盤が修正されない限り、エージェントAIはデモでは印象的なものですが、展開では失望するものを生み出し続けるでしょう。POC環境は罠である大企業のほとんどはモデルを評価します。エージェントの動作をエンドツーエンドで評価する企業は、さらに少なくなります。モデルは非常に正確で、上に構築されたエージェントはまだ大幅に失敗する可能性があります。これは、エージェントがツール呼び出しをシーケンシャルに連結し、一つの悪いステップが正しい答えを生み出し、次のステップがそれを正しい入力として扱い、誰も気が付く前にエラーを下流に拡大するためです。POC環境はこれを隠すように設計されています。入力は制御され、スコープは狭く、誰かが出力を監視しています。いずれも本稼働では存在しません。テストでは高得点を取ったエージェントは、曖昧な指示を扱い、パーミッションエラーに当たり、テストされていないデータに対してシーケンシャルな決定を下しています。エージェントを構築したチームは、モデルパフォーマンスの評価フレームワークは、エージェントが正しくエスケールしたか、エッジケースをうまく処理したか、または停止するタイミングを知っていたかを示さないことを発見しています。マッキンゼーのAIの現状2025報告によると、88%の組織は現在、ビジネス機能の少なくとも1つでAIを使用していますが、約3分の1のみがエンタープライズ全体でそれを成功裏に拡大しています。採用と拡大の間のギャップは、企業がパイロットプロジェクトのスコープと評価の方法から始まります。成功裏に拡大するチームは、失敗モード分析を設計要件として扱います。展開前に、エージェントがどのように失敗するか、そして失敗したときの対応をカタログ化します。聞こえは当たり前のように思えるかもしれません。実際にそうしている企業は非常に少ないです。ガベージデータ、ガベージエージェント企業は、エージェントが本稼働で低性能である理由を尋ね続けています。答えはほとんどの場合、データに帰着します。データエステートは最初から準備されていませんでした。ソースは、異なる時期に異なる目的で構築された数十のシステムに断片化されていました。ビジネスユニット間で定義は一貫性がありませんでした。セマンティックレイヤーはありませんでした。真実の唯一の源はありませんでした。ただ、誰も優先しなかったため、古いシステムが十分に動作していたデータ負債が蓄積されていました。その負債は、エージェントを上に構築したからと言って消えません。それがエージェントの運用現実になります。断片化されたデータソースをナビゲートするエージェントは、ビジネスの一貫した絵を推論するのではなく、見つけたもので最善を尽くし、矛盾を即座に調整し、誰かがビジネスをよく知っている限り、ありそうにない出力を生成します。エージェントは壊れていません。エージェントに渡されたデータが、プロジェクトの開始前に壊れていたのです。データドリフトとコンセプトドリフトが時間の経過とともにこれを悪化させます。現実世界の入力分布がモデルに学習させたものからシフトすると、エージェントはエラーをスローしません。エージェントは実行を続け、間違った出力を生成し始めます。信頼性と一貫性のリスクがあるシステム間でデータを移動することなく、統治されたライブデータに対してエージェントワークロードを直接実行できるSnowflakeのアプローチを採用することで、これを悪化させることができます。これらのプラットフォームは、同じ結果への異なるパスを表しています。エージェントの意思決定を大規模にサポートするために十分な信頼性と一貫性を持つデータレイヤーです。正しい選択は、企業の既存のスタックに依存します。選択することは必須ですが、エージェントレイヤーを上に構築する前にそれにコミットする必要があります。進歩を遂げているチームとまだパイロットに取り組んでいるチームを区別するのは、どのプラットフォームを選択したかではありません。データレイヤーを最初に修正したからです。ガバナンスは最初から事後的なガバナンスは、ガバナンスではありません。エージェントに下流の意思決定権限がある場合、展開後6ヶ月でガードレールが追加されます。企業はすでに6ヶ月間の監査されていない意思決定を蓄積しています。監査トレイルは、エージェントが稼働する前に設計される必要があり、最初のインシデント後に後から修復されるべきではありません。同じ原則が、AIセキュリティ、ロールベースのアクセス制御、パーミッションのスコープに適用されます。適切にスコープされたパーミッションを持たないエージェントは、許可されていないデータにアクセスしたり、意図した境界外でアクションを実行したり、またはアクティブな攻撃面となる可能性があります。これらは、展開レビューで発見されるのではなく、開発段階で対処する必要があるリスクです。トレーニングパイプラインが構築される前にガバナンスが埋め込まれない場合、不正または悪意のあるデータがトレーニングプロセスに検出されずに侵入する可能性があります。妥協されたデータでトレーニングされたモデルはベンチマークでよく機能しますが、実稼働ではドリフトし、エージェントの意思決定が実際のビジネス結果をもたらす場合に最も危険な、サイレントな失敗の種類です。 EUのAI法や、AIの説明責任に関する成長する規制フレームワークは、これを無視することを困難にし、ガバナンスをエージェントアーキテクチャに組み込んでいない企業は、将来に大幅なコンプライアンスリスクを蓄積しています。パイロットから本稼働へ：実際に何が必要か本稼働のギャップを埋める企業は、エージェントレイヤーを構築する前にデータレイヤーを修正する企業です。設計段階でガバナンスを埋め込み、損害が発生した後に修復するのではなく、オーケストレーションアーキテクチャに観測可能性を組み込み、変更管理を並行して実行します。失敗モード分析を重要な設計要件として扱います。デロイトの企業AI調査によると、AIへのワーカーアクセスは2025年だけで50%増加し、40%以上のAIプロジェクトを本稼働で実行している企業のシェアは、来る6ヶ月で2倍になる予定です。現在勝っている企業は、最も高度なモデルを持っている企業ではありません。AIを信頼性高く実行するための運用インフラを構築し、エージェントを構築する前にそれを実現した企業です。まだパイロットを実行しているすべての企業は、モデルとインターフェイスへの投資が、エージェントがデモ環境から出ることを決定するデータの準備とガバナンスアーキテクチャへの投資に比例していることを確認する必要があります。これは、多くの企業が短所としています。それが変わるまで、企業がリソースを投入し、成果を期待していた多くのエージェントAIプロジェクトは、実を結ばないまま終わります。