あなたのAIエージェントはすべてを知っています——しかし、理解することは何もありません

“私たちも、妻の両親のアイルランド旅行に同行しましょう”——この一見すると無害な発言が、私の背筋を凍らせた。

私と妻は、広く旅行する。私たちは、自分たちが何を好むかを知っている。妻の両親は、ほとんどの場合、自宅から数百マイル以内でしか旅行せず、結婚式のために一度だけ国外旅行をした。

これに加えて、この旅行は、私の義理の父親から義理の母親へのクリスマスプレゼントだった。彼女は、もしかしたら最後の機会となるかもしれない、家族を訪ねるために。

私は、この旅行が一言で表現できることを予見した：災難。私たちは、どうやって、自分たちの経験と期待の差を調和させ、素晴らしい旅行——または、少なくとも旅行の終わりにお互いに憎み合わない——ことができるのだろうか。

テクノロジーに親しみのある、私のような人なら、技術——特にAI——に頼る。

しかし、私が予想していなかったのは、私の小さな実験——家族旅行の計画アプリを開発するために、AIを使用する——が、私に、企業のITシステム内でAIを適用するために必要なことをほとんど教えてくれることだった。

AIに情報を与えるほど、愚かになる

ほとんどの企業のAI導入は、予測可能なパターンに従う。組織は、エージェントに一連の指示を与え、情報源——RAG（Retrieval-Augmented Generation）フレームワーク、既存の知識ベース、またはMCPサーバー——に接続することから始める。次に、LLM（Unite.AI）を追加し、動作させる。

問題は、LLMの核は愚かであるということにある。LLMは、利用可能なすべての情報を優先順位付けする方法を知らないため、すべてのコンテキストを同等に扱う傾向がある。人間が、モデルに何が重要で何が重要でないかを教える、キュレーションの層を追加する必要がある。キュレーションなしでは、すべてを知っているが何も理解していないAIが得られる。

重要な3つの種類の記憶

効果的な企業のAIキュレーションには、3つの特定の種類の記憶を最大限に活用することが含まれる。

最初は、機関記憶である。これは、初めのうちはかなり基本的なものである。誰かが「金融サービス」と言ったとき、エージェントは、会社の金融サービス部門を意味し、業界全体を意味しないことを理解する。これは、定義、好み、変化しない規約で満たされた、持続的な組織的知識となる。機関の戦略的優先事項、重要なイニシアチブ、組織のダイナミクスに関する知識にまで拡大するにつれて、これは豊かな機関的コンテキストの源となる。

次に、アクション履歴がある。これは、重要な決定、タスク、イベントに焦点を当てている。サービスチケットが提出されたり、システムが展開されたりすると、エージェントはその特定のアクションを認識し、それをアクション履歴に記録する。これは、組織的コンテキストをまとめる歴史的記録となる。

最後に、ショートテーム会話コンテキストがある。これは、エージェントとのモーメント・バイ・モーメントのやり取りである。現時点では有用だが、すぐにその関連性を失う傾向がある。

これら3つの種類の記憶を組み合わせると、一般的なAIモデルが欠如している重み付けシステムが作成される。誰かがエージェントにビジネスについて話すとき、すべての記憶を分類して優先順位付けし、重要な情報をキュレーションする。ここに、AIが提供すべきものの核——ドメインデータだけではなく、ドメインの判断——が形成される。

キュレーションされた記憶が大規模にどのように見えるか

しかし、枠組みについては十分だ。実践では、これはどう見えるのか。

1つの一般的なITシナリオは、ヘルプデスクのエージェントにトラブルチケットを送信することである。Outlookが動作しない場合、問題の説明を入力して、エージェントがレビューして解決策を提案するのを待つ。

しかし、キュレーションされた記憶があれば、より良いプロセスは、Outlookのエラースクリーンショットを撮って、それをエージェントにアップロードすることになる。エージェントは、（1）機関記憶を使用して作業環境を理解し、（2）関連するインシデントのアクション履歴を確認し、（3）特定の解決策のためのコンテキスト判断を適用する——一般的な答えではなく。

結果は、スクリーンショットに基づいて答えを推測する必要のない、知的なエージェントである。代わりに、現在実行中のすべての情報を調べて、より有用な回答を提供する。エージェントは、ネットワークまたはスウォーム効果に拡大し、システム内の他のユーザーを調べて、Outlookの問題があなただけの問題か、企業全体の問題かを確認することができる。

歴史または記憶のコンテキスト化が違いを作る。記憶を効果的にキュレーションしない場合、キュレーションを実行する人に後れを取ることになる。データを時間の経過とともに管理し、保持する必要があるもの、提示する必要があるもの、放棄する必要があるものを理解するアーキテクチャが必要である。

旅行に戻る

私のAI駆動の旅行プランナーは、企業のITシステムにおけるAIの私の見方をどのように変えたのか。

私が開発したのは、私たちの個人的な旅行コンシェルジュとして機能するアプリで、各参加者に「面接」を行うことから始めた。私たちはみんな、旅行で何が重要か——何が必須で何が省略可能か——について説明した。より重要的是、理由——何が重要で、どのような意味があるか——について尋ねられた。

この情報を使用して、アプリは、すべての参加者のニーズを満たすバランスの取れた旅行計画をキュレーションした。私たちはみんな、計画に自分の希望と好みを反映したものを見ることができた。

しかし、もちろん、この最初のイテラレーションはまだドラフトだった。まだ答えるべき多くの質問があった。

そして、それが本当の魔法が起こったときである。私たちは、ホテルや観光地、ドライブについてエージェントに尋ね、エージェントが与えた答えは、私たちのユニークな状況のコンテキストで豊かになった。「子供たちにとっては長いドライブになるだろうが、義理の父は城（と隣のユニークなコーヒーショップ）が好きだ——そして、これが妻がマッサージを受けるためのちょうどいいスポットになるかもしれない。」

私たちのことを理解している、この豊かな理解に満ちた答えは、私たちが旅行を計画し、洗練することを支援する方法で、私たちを助けた。私は、その瞬間、企業の顧客のために何を構築する必要があるかを理解した——機関的、取引的、個人的なコンテキストで溢れる、知的なシステム。毎回の答えとやり取りは、指紋のように——その瞬間とやり取りに完全にユニークで——価値を提供する。