あなたのAIエージェントはすべてを知っているが、理解できない

「私たちもイレランドへの旅行に参加しましょう」という、一見無害な発言が、私の背筋を凍りつかせた。

私と妻は、広く旅行する。私たちは何が好きなのかを知っている。妻の両親は、ほとんどの場合、家から数百マイル以内で旅行し、結婚式のために一度だけ国外に行った。

さらに、この旅行は、私の義理の父が、私の義理の母にクリスマスの贈り物として贈ったもので、彼女が家族を見舞う、あるいは最後の機会になるかもしれない旅行だった。

私は、この旅行がどのように進行するかを想像することができた。世界観や期待が大きく異なる私たちが、どうすれば素晴らしい旅行を楽しむことができるのか。あるいは、少なくとも旅行の終わりまでに互いに憎み合わないようにするにはどうすればよいのか。

技術者として、私は技術に頼った。具体的には、AIに頼った。

しかし、私のAIを使用した家族旅行計画アプリの実験は、私が企業のITシステムでAIを適用する上で知るべきすべてを教えてくれた。

AIに情報を与えるほど、愚かになる

ほとんどの企業のAI導入は、予測可能なパターンに従う。組織は、エージェントに一連の指示を与え、情報源に接続することから始める。情報源は、RAG（Retrieval-Augmented Generation）フレームワーク、既存の知識ベース、またはMCPサーバーである可能性がある。次に、LLM（Large Language Model）を追加し、動作させる。

問題は、LLMは本質的に愚かであるということである。すべての利用可能な情報を優先順位付けする方法を知らないため、すべてのコンテキストを同等に扱う傾向がある。人間が追加のキュレーションレイヤーを追加し、モデルに何が重要で何が重要でないかを教える必要がある。キュレーションなしでは、すべてを知っているが、理解できないAIになる。

重要な3つのメモリの種類

企業のAIキュレーションでは、3つの特定のメモリの種類を最大限に活用することが重要である。

最初のメモリは、機関メモリである。機関メモリは、定義、好み、慣習などの組織の知識を保持する。機関メモリは、組織の戦略的優先事項、重要なイニシアチブ、組織のダイナミクスに関する知識を包含することで、豊富な組織的コンテキストを提供する。

2つ目のメモリは、アクション履歴である。アクション履歴は、重要な決定、タスク、イベントに焦点を当てている。サービスチケットが提出されたり、システムが展開されたりすると、エージェントはそのアクションを認識し、アクション履歴に記録する。このアクション履歴は、組織的コンテキストをまとめる歴史的記録となる。

3つ目のメモリは、短期的な会話的コンテキストである。エージェントとの瞬間ごとのやり取りを想像してください。会話的コンテキストは、その瞬間には役立つが、すぐに無関係になる傾向がある。

これらの3つのメモリの種類を組み合わせると、一般的なAIモデルが欠けている重み付けシステムが作成される。誰かがエージェントにビジネスについて話すとき、すべてのメモリを分類して優先順位付けし、重要な情報をキュレーションする。ここに、AIが提供すべきものの核がある。ドメインデータだけではなく、ドメインの判断力である。

キュレーションされたメモリのスケール

しかし、フレームワークについては十分だ。実践では、どのように機能するのか。

一般的なITシナリオの1つは、トラブルチケットをヘルプデスクエージェントに送信することである。Outlookが動作しない場合は、問題の説明を入力し、エージェントがレビューして解決策を提案するのを待つ。

しかし、キュレーションされたメモリが機能する場合、より良いプロセスは、Outlookのエラーメッセージを示すスクリーンショットをアップロードして、エージェントに提供することになる。エージェントは、(1) 機関メモリを使用して作業環境を理解し、(2) アクション履歴を調べて関連するインシデントを確認し、(3) コンテキストに基づいて特定の解決策を提供する。一般的な回答ではなく、特定の回答を提供する。

結果として、スクリーンショットに基づいて回答を推測する必要のない、知的なエージェントが得られる。代わりに、エージェントはすべての実行中の情報を調べて、より役立つ回答を提供する。エージェントは、ネットワークまたはスウォーム効果を拡大し、システム内の他のユーザーを調べて、Outlookの問題があなただけの問題か、企業全体の問題かを調べることができる。

メモリまたは履歴のコンテキスト化が、違いを生み出す。メモリを効果的にキュレーションしない場合、キュレーションする人に後れを取ることになる。データを管理し、どのデータを保持し、どのデータを表示し、どのデータを放棄するかを理解するアーキテクチャが必要である。

旅に戻る

私のAIを使用した旅行計画アプリは、企業のITシステムでAIを使用する私の視点をどのように変えたのか。

私は、旅行のプランを立てるための私たちの個人用コンシェルジュとして機能するアプリを作成した。アプリは、参加者それぞれに「インタビュー」を実施して開始した。私たちは何が重要か、どれを省略できるかについて説明した。さらに重要的是、我々は「なぜ」について説明した。なぜそれが重要か。なぜそれが私たちに意味のあるのか。

これらの情報を使用して、アプリは2つのことを実行した。まず、バランスがとれた旅行プランをキュレーションし、すべての参加者のニーズと好みが反映されるようにした。私たちは、作成されたプランにそれぞれの希望と好みが反映されているのを見た。

しかし、もちろん、その最初の旅程はまだドラフトだった。まだ多くの質問が残っていた。

そして、それが本当の魔法が起こったときだった。私たちは、ホテルや観光地、運転についてエージェントに質問し、回答は私たちのユニークな状況のコンテキストで豊かになった。「子供たちにとっては長い運転になるだろうが、義理の父は城（と隣のユニークなコーヒーショップ）が好きだし、妻はそこでマッサージを受けることができるかもしれない。」

私たちのニーズと好みを理解した豊富な回答を提供することができた。私たちが計画し、旅行を洗練することができた。私が思うに、他の方法では不可能だった。

そして、私は最初の瞬間に理解した。私たちが企業の顧客のために構築しなければならないものは、組織的、取引的、個人的なコンテキストで溢れ返る、知的なシステムである。毎回の回答ややり取りは、完全にユニークで、他の方法では生み出せない価値を提供するフィンガープリントのようなものになる。