あなたのAIエージェントは何でも知っているのに、何も理解していない

「私の両親のアイルランド旅行に、私たちも一緒に行きましょう」——一見何でもないこの一言に、私は背筋が寒くなった。

妻と私はよく旅行をする。自分たちの好みも分かっている。一方、妻の両親は自宅から数百マイルを超えて出かけることがめったになく、二人そろって国外へ行ったのは、私たちの結婚式のための一度きりだ。

しかも、この旅行は義父から義母へのクリスマスプレゼントだった。義母が自分の家族を訪ねるためであり、もしかすると最後の機会になるかもしれなかった。

この旅行の成り行きは、一言で表せた。大惨事だ。これほど違う経験や期待を、どうすればうまくまとめて素晴らしい旅行にできるのだろう。少なくとも、旅行が終わるころに互いを嫌いになっていないようにするには？

技術好きの人間として、当然のように私はテクノロジー、具体的にはAIを頼った。

だが、AIを使った家族旅行計画アプリをバイブコーディングするという小さな実験が、企業ITへのAI適用について知っておくべきことのほとんどを教えてくれるとは思わなかった。

AIに情報を与えるほど、愚かになる

企業のAI導入の多くは、予測可能なパターンをたどる。まず組織はエージェントに一連の指示を与え、情報源に接続する。それはRAG（検索拡張生成）のフレームワークや既存のナレッジベース、あるいはMCPサーバーかもしれない。次に大規模言語モデル（LLM）を加え、あとは動かしてみる。

問題は、LLMが根本的には愚かだということだ。利用できるあらゆる情報にどう優先順位を付けるか分からず、コンテキストの各要素を同じ重みで扱いがちになる。人間が情報の選別・整理というキュレーションの層を加え、何が重要で何がそうでないかをモデルに教える必要がある。キュレーションがなければ、何でも知っているのに何も理解しないAIになる。

重要な三つの記憶

企業AIで効果的に情報をキュレーションするには、特に三種類の記憶を最大限に活用する必要がある。

第一は組織の記憶だ。最初はごく基本的に思えるかもしれない。誰かが「金融サービス」と言ったとき、エージェントは業界全体ではなく、その会社の金融サービス部門を指していると理解する。これは、頻繁には変わらない定義、好み、慣例などから成る永続的な組織知になる。戦略的な優先事項、主要な取り組み、組織内の力学へとその知識が広がるにつれ、豊かな組織的コンテキストの源になる。

次は行動履歴で、重要な意思決定、タスク、出来事を扱う。サポートチケットが起票されたり、システムが導入されたりすると、エージェントはその行動を認識し、行動履歴へ記録する。こうして、組織のコンテキストをつなぎ合わせる歴史的な記録ができる。

最後は短期的な会話コンテキストだ。エージェントとの刻々のやり取りと考えるとよい。その場では役立つが、関連性はすぐに薄れがちだ。

この三種類の記憶を組み合わせることで、汎用AIモデルに欠けている重み付けの仕組みができる。誰かがエージェントに事業について説明するとき、その人はこれらの記憶すべてを分類し、優先順位を付け、重要な情報を選別している。ここにAIが提供すべきものの核心がある。単なる領域のデータではなく、その領域についての判断力だ。

大規模な運用におけるキュレーションされた記憶

枠組みの話はここまでにして、実際にはどうなるのか。自分たちでこうしたエージェントを構築する中で、私たちは次のことを見いだした。

よくあるITの場面は、ヘルプデスクのエージェントへ障害チケットを送ることだ。例えばOutlookが動かないなら、問題の説明を入力し、エージェントが確認して解決策を提案するのを待つ。

だが、キュレーションされた記憶があれば、Outlookのエラーを示すスクリーンショットを撮ってエージェントへアップロードする、よりよい手順も考えられる。エージェントは、（1）組織の記憶から作業環境を理解し、（2）行動履歴で関連する事象を確認し、（3）コンテキストに基づく判断によって、一般論ではなくその状況に合った解決策を示す。

結果として、スクリーンショットだけから答えを推測する必要のない、知的なエージェントが得られる。実際に詳しく調べ、現在の情報全体を確認し、より役立つ回答を返すのだ。エージェントの働きはさらに、ネットワーク効果やスウォーム効果へ広がる可能性もある。システム内のほかのユーザーを調べ、Outlookの問題が自分だけに起きているのか、全社的なものなのかを確認するのである。

違いを生むのは、履歴や記憶をコンテキストに位置付けることだ。記憶を効果的にキュレーションしなければ、それを行う組織に後れを取る。時間の経過に沿ってデータを管理し、何を残し、何を表に出し、何を手放すかを理解するアーキテクチャが不可欠だ。

旅行の話に戻ろう

では、AIを使った旅行計画アプリは、企業ITにおけるAIについての私の見方をどう変えたのか。

私が作ったのは、私たち専属の旅行コンシェルジュとして機能するアプリで、最初に参加者それぞれへ「インタビュー」を行った。私たちは旅行で大事にしたいこと、必ずやりたいこと、省いてもよいことを説明した。さらに重要なのは、「なぜ」も尋ねられたことだ。なぜそれが大切で、自分たちにとってどんな意味があるのか。

この情報を使ってアプリは二つのことをした。まず、全員に何かしら楽しみがあるよう、バランスの取れた旅行計画を組み立てた。出来上がった計画には、誰もが自分の希望や好みを見て取れた。

もちろん、最初の旅程はまだ草案にすぎない。答えを出すべき質問は多く残っていた。

そこで本当の魔法が起きた。ホテルや観光スポット、車での移動についてエージェントに尋ねると、私たち固有の事情が回答を豊かにした。「子どもたちには長いドライブになるが、義父はあの城と隣にあるユニークなコーヒーハウスをとても気に入るだろう。それに、妻があのマッサージを受けるのにも、ここはちょうどよい場所かもしれない」。

私たちが何を大切にするかを深く理解していたからこそ、アプリは、ほかの方法ではできなかったのではないかと思う形で、旅行を計画し、練り直す手助けをしてくれた。

そして、そうした最初のひとときの一つで、私は企業のお客様のために何を作るべきか理解した。組織、取引、個人のコンテキストを豊かに備え、あらゆる回答とやり取りが指紋のように、その瞬間、そのやり取りに完全に固有のものとなる知的システムだ。そうしたシステムなら、ほかの方法では決して生まれない種類の価値を届けられる。