Xiaowei Jiang, CEO and Chief Architect at Tacnode

AIのメモリ危機：我々はデジタル暗黒時代を築きつつある

何百万ものAIエージェントが本番システムに導入されつつある。その運用経験を共有できるものはほとんどない。このアーキテクチャ上の選択が重要な理由、そしてそれを正しく実現できた場合の変化について解説する。午後2時6分、顧客がノートパソコンのオンライン注文を行う。決済エージェントは運用データベースを照会する：購入履歴に問題なし、金額は通常範囲内、配送先は過去に使用された住所、デバイスと位置情報は最近の成功した注文と一致。すべて正常に見える。エージェントは注文を承認する。同時に、行動分析エージェントが同社のデータレイクハウス内のクリックストリームデータを処理している。セッションから、あるパターンを導き出す：ユーザーは、閲覧や比較行動なしに、直接チェックアウトの深いURLに到達した。このシグナル単体では弱いが、それ以外は正常な購入と組み合わさった場合、アカウント乗っ取りシナリオの既知の前兆である。行動分析エージェントはこの解釈を、後の分析とモデルトレーニングのための導出された知識として記録する。決済エージェントはそれを決して目にしない。シグナルが計算されなかったからでも、無視されたからでもない——その知識が、認証時に決済エージェントが参照しないシステム内に存在するからだ。各エージェントは、自らが見える範囲内では正しく振る舞う。各々は自らが所有するシステムに書き込む。しかし、あるエージェントによって導き出された洞察は、意思決定時に他方からは見えない。ノートパソコンは発送される。36時間後、請求に異議が申し立てられる。調査の結果、そのアカウントは当日早くに侵害されていたことが確認される。攻撃者は取引を通常の範囲内に留め、唯一の早期警告が行動分析の知識として決済エージェントの意思決定コンテキストの外に閉じ込められているという事実に依存していた。失敗の原因は、データの欠落、処理の遅延、悪いモデルではなかった。それはエージェントのサイロ化である：知識は形成されたが、共有されなかった。そしてこれは、ほとんど誰も語らない問題を露呈する。我々は、意思決定を行うAIエージェントが、他のAIエージェントが既に発見したことにアクセスできないアーキテクチャを構築してしまったのだ。印刷機が解決した問題印刷機以前、知識は脆かった。学者が死ぬと、彼らが学んだことの多くも共に失われた。ロンドンの数学者が数十年かけて発見した原理を、パリの数学者が50年後に独立して再発見するかもしれなかった。進歩は確かにあったが、それは局所的で、遅く、繰り返しリセットされた。印刷機は個人をより賢くはしなかった。それは記憶を外部化した。知識は単一の精神に縛られることを止め、その創造者の生涯を超えて存続し始めた。洞察は共有され、再検討され、世代を超えて積み上げられるようになった。それが進歩を複利で増大させることを可能にしたのだ。我々はAIにおいて、印刷機以前の過ちを繰り返す危険にさらされている。ほとんどの組織は現在、本番システム全体にAIエージェントを導入している。さらに多くの組織が、カスタマーサポート、ソフトウェア開発、研究、不正検出などの分野で積極的に実験を行っている。これらのエージェントは通常、現代のマイクロサービスアーキテクチャに沿った独立したサービスとしてデプロイされ、それぞれが独自のデータと運用境界を持つ。同じ組織内であっても、エージェントは自らの本番経験から洞察を導き出すが、その知識を関連する意思決定を行う他のエージェントと共有することは稀である。その結果、運用上の洞察は断片化されたままとなる。局所的な意思決定は改善されるかもしれないが、経験はシステム全体で蓄積されない。単一のエージェント内に閉じ込められたままのあらゆる突破口は、複利で増大できない突破口である。今回は、制限要因は知性や速度ではない。それは記憶である。AIシステムが発見したことを外部化し共有する方法がなければ、進歩は積み上がるよりも頻繁にリセットされる。共有メモリの実際の姿大きなコンテキストウィンドウは個々の推論を豊かにできるが、エージェント間での共有され永続的な経験を生み出すものではない。共有メモリは、モデルを改善するのではなく、エージェントが意思決定時に何を見ることができるかを変えることで、結果を変える。サイロ化されたシステムでは、各エージェントは自らの境界内で正しく推論する。決済エージェントは取引リスクを評価する。行動分析エージェントはクリックストリームパターンを分析する。各々はその結論を自らが所有するシステムに書き込み、それらの結論は並行して動作する他のエージェントからは見えないままである。意思決定は局所的には正しいが、全体的には不完全だ。共有メモリ層があれば、その境界は消える。行動分析エージェントがセッションを処理する際、弱いが意味のあるシグナルを導き出す：初期のアカウント乗っ取り試行に関連するナビゲーションパターン。その洞察をオフライン分析のためだけに保存する代わりに、そのシグナルを共有メモリに、アクティブなセッションにリンクして書き込む。その直後、決済エージェントが購入を評価する際以下の追跡調査は、同じメモリをクエリします。トランザクションは依然として正常に見えます。しかし、現在は追加のコンテキスト、つまり本来は存在しないはずの行動警告を認識します。どちらのシグナルも単独では決定的ではありません。しかし、両者が組み合わさることで、さらなる検証が必要な閾値を超えます。エージェント自体には何も変化はありません。モデルは再学習されず、中央集権的なコントローラーも介入しません。違いは可視性にあります。あるエージェントによって形成された洞察が、まだ意味を持つ間に別のエージェントが利用できるようになるのです。重要なのは、その洞察が持続することです。結果（不正か正当か）が後から判明した時、シグナルと結果の関連性が記録されます。時間の経過とともに、システムは、どの弱い指標が重要になる傾向があり、どのような条件下で重要になるかの経験的記録を蓄積していきます。将来の意思決定は、単一のインタラクションやエージェントを超えた経験によって情報提供されます。共有メモリはデータウェアハウスではなく、運用データベースでもありません。それは、派生コンテキストのための低遅延の基盤です。つまり、シグナル、解釈、関連性といった、それを生み出したインタラクションを超えて存続し、関連する意思決定を行う他のエージェントからクエリ可能なまま残るものです。これが、経験が複利のように増殖する仕組みです。それは単一のモデル内ではなく、システム全体にわたって起こります。エージェントのサイロ化の背後にあるアーキテクチャ上のトレードオフエージェントのサイロ化は、実装上のミスではありません。それは、異なる種類の消費者を中心に設計されたエンタープライズアーキテクチャの予測可能な結果です。何十年もの間、本番システムは機能ごとにワークロードを分離してきました。運用システムは低遅延で一貫性のあるトランザクションに最適化され、分析システムは大規模な集計と歴史的パターンの発見に最適化されてきました（OLTP対OLAP）。この分離は、洞察がどのように消費されてきたかを反映しています。分析結果は機械ではなく人間のために生成され、したがって非同期に、意思決定のクリティカルパスの外で到着することが期待されていました。AIエージェントはこのアーキテクチャ上の分断を受け継ぎますが、それに適合しません。その結果は、単なる洞察の遅延ではなく、構造的な盲点です。分析システムで生成される洞察は、設計上、リアルタイムの意思決定が既に行われた後に発見されます。結果を変える可能性のあるシグナルは存在しますが、自律的な意思決定者による継続的なクエリを想定していないシステムに存在するため、意思決定時に表面化することができません。このアーキテクチャは壊れているのではありません。自律システムの要件に適合していないのです。欠けている分野：コンテキストエンジニアリング共有メモリは、ほとんどのチームが解決する準備ができていない問題を提起します。それは、どの経験を永続化すべきかを決定することです。AIシステムは、トランザクション、クリック、メッセージ、アクション、結果など、膨大な量の生の経験を生成します。そのすべてを永続化することは、実用的でも有用でもありません。意図的な選択がなければ、共有メモリはノイズになります。課題は、より多くのデータを収集することではなく、他のエージェントが利用できるコンテキストに経験を形成することです。これがコンテキストエンジニアリングの役割です。コンテキストエンジニアリングとは、どの観察が永続的なシグナルとなるか、それらのシグナルがどのように表現されるか、いつ他のエージェントに公開されるべきかを決定する分野です。それは生のイベントとエージェントの推論の間に位置し、一時的な活動を、共有され、意思決定に関連する理解へと変換します。実際には、これはパターン、指標、条件付き関連性を高め、ほとんどの生の経験は消え去るようにすることを意味します。弱いシグナルやエッジケースは、単独では重要ではないかもしれませんが、蓄積され適切なタイミングで表面化されると価値を持つようになります。コンテキストエンジニアリングは、共有メモリが単に経験を保存するだけなのか、それとも経験が複利のように増殖することを可能にするのかを決定します。これを正しく実現すると何が起こるかこれは将来の懸念ではありません。今日、インフラストラクチャチームによって（多くの場合暗黙的に）行われているアーキテクチャ上の決定です。デフォルトの道は分離です。AIエージェントは独立して行動し、自分自身の経験のみに依存します。それぞれが高速で局所的に正しい意思決定を行いますが、知性は頭打ちになります。同じエッジケースが繰り返し発生し、弱いシグナルが再発見され、失敗がより高速で大規模に繰り返されます。もう一つの選択肢は、共有メモリレイヤーです。派生コンテキストが永続化され、意思決定時に可視化されると、経験は蒸発しなくなります。一度発見された洞察は利用可能なまま残ります。弱いシグナルは蓄積を通じて意味を持ちます。意思決定が改善されるのは、モデルが変化するからではなく、エージェントがもはや孤立して推論しなくなるからです。これは、より大きなモデル、リアルタイムの再学習、または中央集権的な制御を必要としません。必要なのは、メモリを第一級のアーキテクチャレイヤーとして扱うことです。つまり、低遅延アクセス、永続性、共有可視性のために設計されたレイヤーです。アーキテクチャのデフォルトは急速に固定化されます。共有メモリなしで構築されたシステムは、エージェントが増殖するにつれて、後から改造することがますます困難になります。選択は単純です。経験を蓄積するシステムを構築するか、あるいは無限にリセットし続けるシステム