企業のAIエージェントが知識の問題に直面する理由、技術の問題ではない

昨年、S&P Global (SPGI ) 報告 したように、企業のAIイニシアチブをほとんど放棄する企業の割合は、17％から42％に急増しました。以前、Gartner 発表 したように、Agentic AIプロジェクトの40％が2027年末までに中止される予想です。

McKinsey & Company によると、ほぼ半数の企業がAIエージェントの実験をしています。しかし、どの程度の企業がパイロット段階を超えて実際に運用していますか。約10％です。

業界には、モデル・ホールシネーション、ガバナンスの欠如、高GPUコスト、スペシャリストの不足などの説明があります。これらはすべて実際の課題です。しかし、知識管理システムとAIエージェントを3年間作業してきた私は、企業がエージェントに不完全なデータを渡しているという別のパターンをますます見ています。

ペダゴジー科学博士として、私はこれを知識転送の問題と見なしています。如果人が意思決定のロジックを説明できない場合、そのロジックは新しい従業員、ひいてはAIエージェントに転送することはできません。なぜこれが起こるのか、それに対処する方法について見ていきましょう。

企業が実際にどのように運営されているかについての知識が存在する場所

大きな企業に従業員の知識がどこに保存されているかを聞くと、長いリストが返ってきます: Confluence、SharePoint、LMSプラットフォーム、FAQボット、Slackアーカイブ。RAGシステムが必要なすべてを取得するために使用できるスタックのようです。しかし、1つの重要な要素が欠けています — 人々の頭の中に存在する知識。誰も書き留めたことがない知識。

なぜこれが問題なのか？

AIエージェントがワークフローの一部を引き継ぐには — コンテキストを理解し、行動を選択し、タスクを完了する — 知識ベースへのアクセスだけでなく、経験豊富なスペシャリストが使用する意思決定ロジックも必要です。

新しいサポートエージェントがリクエストを受け取ることを想像してみましょう: 顧客はサービスを支払ったと主張しますが、アクセスはまだ有効化されていません。スクリプトには、顧客に待つことを求める標準的なステップが含まれています。しかし、エージェントは状況が異常であることを認識します: 顧客はすでにサポートに2回連絡しており、システムには過去1時間に複数の類似のケースがあります。彼らはより経験豊富な同僚に連絡し、同僚はこのような状況を見たことがあり、この問題はおそらく支払いゲートウェイ、銀行、および内部アクティベーションシステムの交差点での障害であるため、ケースを別の部門にエスカレートする必要があると説明します。

AIエージェントにとって、このロジックは不可視です。スクリプト、チケット履歴、支払いステータスへのアクセスが可能かもしれませんが、経験豊富なオペレーターが決定的な信号と見なすものを知ることはできません。専門家が故意にこの知識を隠しているわけではありません。彼らはただ、それを形式化したり、ステップに分解したりすることができないのです: どのオプションが除外されたか、どのアクションが選択されたか、標準シナリオが適用されないことが明らかになった時点。認知科学者は、この現象を 暗黙の知識 と呼んでいます — その所有者自身が完全に認識していない可能性のある、暗黙の知識です。

これが、ボトルネックが文書へのアクセスのレベルではなく、専門家の経験をAIエージェントのトレーニングに適した形式に変換する段階で発生する理由です。

それに対処する方法

AIエージェントを効果的に動作させるには、LLMを企業の知識ベースに接続するだけで十分ではありません。成功した決定は、暗黙の知識に依存することがよくあります。まず、構造化された意思決定基準を含む知識レイヤーを作成する必要があります。

知識管理では、このプロセスは 外部化 と呼ばれます — 暗黙の知識を明示的知識に変換すること。つまり、企業は専門家が何をするかだけでなく、どのように考えているかを理解する必要があります。これは通常、トップエキスパートとの一連の深いインタビューを通じて行われます。インタビューには、適切な質問を投げかけることができるメソドロジスト、知識エンジニア、または教育設計専門家が同席する必要があります。彼らのタスクは、専門家が述べた内容に基づく「手順書」を書くことではなく、選択肢間の基準を再構築し、エッジケースを分解し、専門家がすでに自動的に処理している典型的なミスの表面化を行うことです。

ここで、AIは大幅に役立つことができます: インタビューのトランスクリプション、類似のケースのグループ化、専門家の説明をドラフトシナリオに変換すること、検証のためのシナリオの生成。ただし、最終的な構造は専門家によってレビューおよび承認される必要があります。

結果として、動作する知識コーパスが得られます。これは、同時に2つの方向で使用できます — 新しい従業員のトレーニングとAIエージェントの構成。両方のシナリオは、同じ基盤 — トップスペシャリストからの構造化された経験 — に依存しています。

代替案は、Confluence上のRAGが論理を再構築するという仮定を続けることです。実践では、これはほとんど機能しません。システムは関連するドキュメントを取得するかもしれませんが、コンテキストと経験に依存するアクションを選択する方法を学習することはできません。

エージェントが動作する準備ができていることを確認する方法

専門家の知識をシナリオに変換し、エージェントを構成しました。しかし、エージェントのあり得る回答と実際の運用パフォーマンスの間にはギャップがあります — このギャップは、検証中にのみ明らかになります。この段階では、必要なすべての知識を確実に捉えているかどうかを判断することが重要です。

実用的アプローチは、シナリオベースのテストです。エージェントに、専門家の日常業務からの実際のケースを提供します: 顧客が請求を争う、通常と異なるメールが到着する、または基本的なスクリプトに合わないリクエストが表示される。結果は、別のLLMによって評価されるのではなく、知識コーパスを構築したのと同じ専門家によって評価される必要があります。エージェントが経験豊富なスペシャリストと異なるパスを取る場合、常にモデルが弱いことを意味するわけではありません。もっともらしいルール、例外、または例が欠けていることを示唆します。その場合、プロセスは最初からやり直されます: メソドロジストは専門家とロジックを明確にし、知識コーパスを更新し、指示を洗練し、テストを繰り返します。

このサイクルは、オプションのステップではありません。エージェントが「潜在能力を示す」ものと、実際に作業を行うものとの違いを定義するステージです。これは、印象的なデモを生み出すことなく、専門家の関与を必要とする、遅くて印象的なプロセスの部分です。しかし、体系的にこれを実行することで、実際にスペシャリストのルーチンワークロードを軽減するエージェントを取得することができます。そうしない場合、6か月以内に、Gartnerが予測するように、40%のプロジェクトが中止されるという統計に自分自身を含めることになります。

Agentic AIは、技術の問題ではなく、企業が不完全な知識を「提供」することによって失敗します。2024〜2025年では、これはまだ実験段階によって説明できるかもしれません。2026年では、このミスは既に高額なコストを伴うものです。