AIの記憶危機：私たちはデジタル暗黒時代を築きつつある

数百万ものAIエージェントが本番システムに導入されていますが、運用経験を共有できるエージェントはほぼ存在しません。だからこそ、アーキテクチャの選択が重要であり、それを適切に行うことで何が変わるのでしょうか。

午後 2 時 06 分に、顧客がノートパソコンをオンラインで注文します。

レジ担当者は運用データベースに問い合わせを行い、購入履歴が正常であること、金額が正常範囲内であること、以前に使用した配送先住所、デバイスと所在地が最近の注文と一致することを確認しました。すべて正常に見えます。担当者は注文を承認します。

同時に、行動エージェントが同社のデータレイクハウス内のクリックストリームデータを処理します。セッションからパターンを導き出します。ユーザーは閲覧や比較行動を一切行わず、ディープチェックアウトURLに直接アクセスしたということです。このシグナルは単体では弱いものですが、通常の購入行動と組み合わせると、アカウント乗っ取りのシナリオの前兆となることが知られています。

行動エージェントは、この解釈を派生知識として記録し、後で分析やモデルトレーニングに使用します。

レジ係員はそれを目にすることはありません。信号が計算されなかったからでも、無視されたからでもありません。その知識は、レジ係員が承認時に参照しないシステム内に保存されているからです。

各エージェントは、それぞれが認識できる情報に基づいて正しく行動します。各エージェントは、自身が所有するシステムに書き込みを行います。しかし、意思決定時には、一方のエージェントが得た洞察はもう一方のエージェントには見えません。

ラップトップが発送されます。

36時間後、請求は異議申し立てられました。調査の結果、アカウントは当日早朝に不正アクセスされていたことが確認されました。攻撃者は、レジ係員の判断の文脈外に閉じ込められた行動に関する知識という唯一の早期警告を頼りに、取引を通常の範囲内にとどめました。

失敗の原因は、データの欠落でも、処理速度の遅さでも、モデルの欠陥でもありません。エージェントのサイロ化、つまり知識は形成されたものの共有されなかったことが原因です。

そして、これはほとんど誰も言及していない問題を浮き彫りにします。私たちは、意思決定を行うAIエージェントが、他のAIエージェントが既に発見したものにアクセスできないアーキテクチャを構築しました。

印刷機が解決した問題

印刷機が登場する以前、知識は脆いものでした。学者が亡くなると、彼らが学んだ知識の多くも共に失われました。ロンドンの数学者が数十年かけて原理を発見したとしても、パリの数学者が50年後に独自に再発見することになるかもしれません。進歩は確かにありましたが、それは局所的で、ゆっくりと進み、何度もリセットされるものでした。

印刷機 個人を賢くするのではなく、記憶を外部化した。知識は単一の知性に縛られることなく、創造者の生涯を超えて存続するようになった。洞察は世代を超えて共有され、再検証され、積み重ねられるようになった。これが進歩を積み重ねることを可能にしたのだ。

AI によって、印刷前のミスを繰り返す危険があります。

現在、ほとんどの組織が本番システム全体にAIエージェントを導入している。顧客サポート、ソフトウェア開発、研究、不正行為検知といった分野では、多くのエージェントが積極的に実験を行っています。これらのエージェントは通常、最新の技術に準拠した独立したサービスとして導入されています。 マイクロサービスアーキテクチャそれぞれが独自のデータと運用境界を持ちます。同じ組織内であっても、エージェントは自身の生産経験から洞察を得ますが、関連する意思決定を行う他のエージェントと、生み出した知識を共有することはほとんどありません。

その結果、運用上の洞察は断片化したままです。局所的な意思決定は改善されるかもしれませんが、システム全体に経験が蓄積されることはありません。単一のエージェントの中に閉じ込められたブレークスルーは、複合的に活用できるブレークスルーではありません。

今回の制限要因は知性や速度ではなく、記憶です。AIシステムが発見した情報を外部化して共有する手段がなければ、進歩は構築されるよりもリセットされることが多くなります。

共有メモリの実際の様子

より大きなコンテキストウィンドウは個人の推論を豊かにするが、共有された、 エージェント間での永続的なエクスペリエンス.

共有メモリは、モデルを改善するのではなく、意思決定時にエージェントが見ることができるものを変更することによって結果を変更します。

サイロ化されたシステムでは、各エージェントはそれぞれの境界内で正しく推論します。チェックアウトエージェントは取引リスクを評価し、行動エージェントはクリックストリームパターンを分析します。各エージェントは自身の結論を自身のシステムに書き込みますが、それらの結論は並行して動作する他のエージェントからは見えません。意思決定は局所的には正しいものの、全体としては不完全です。

共有メモリ層を使用すると、その境界はなくなります。

行動エージェントはセッションを処理する際に、弱いながらも意味のあるシグナル、すなわち初期のアカウント乗っ取りの試みに関連するナビゲーションパターンを導き出します。この洞察をオフライン分析のためだけに保管するのではなく、アクティブなセッションにリンクされた共有メモリにシグナルを書き込みます。

しばらくして、レジ係員が購入品を評価する際、同じメモリを参照します。取引は依然として正常に見えますが、今度は追加のコンテキスト、つまり、本来であれば見逃されていたであろう行動上の警告が認識されます。どちらの信号も単独では決定的なものではありません。これらが組み合わさることで、更なる検証のための閾値を超えます。

エージェント自体には何の変化もありません。モデルの再学習も、中央集権的なコントローラーによる介入もありません。違いは可視性にあります。あるエージェントが得た洞察は、それがまだ重要である間に、別のエージェントにも利用可能になります。

重要なのは、その洞察が持続することです。結果が後に判明した時（不正か正当か）、シグナルと結果の関連性が記録されます。時間の経過とともに、システムはどの弱い指標がどのような条件下で重要になる傾向があるかという経験的記録を蓄積していきます。将来の意思決定は、単一のインタラクションやエージェントを超えた経験に基づいて行われます。

共有メモリはデータウェアハウスでも運用データベースでもありません。これは、派生コンテキスト（シグナル、解釈、そして関連性）を低レイテンシで保持する基盤であり、それらは生成されたインタラクションを生き残り、関連する意思決定を行う他のエージェントによって照会可能な状態を維持します。

このように、経験は 1 つのモデル内ではなく、システム全体で複合されます。

エージェントサイロの背後にあるアーキテクチャのトレードオフ

エージェントサイロは実装ミスではありません。異なる種類の消費者を念頭に設計されたエンタープライズアーキテクチャの予測可能な結果です。

数十年にわたり、本番システムは機能ごとにワークロードを分離してきました。運用システムは低レイテンシで一貫性のあるトランザクションに最適化され、分析システムは大規模な集計と履歴パターンの発見に最適化されていました（OLTP と OLAP）。この分離は、洞察がどのように消費されるかを反映していました。分析結果は機械ではなく人間のために生成されたため、非同期で、意思決定のクリティカル パスの外側に到着することが期待されていました。

AI エージェントはこのアーキテクチャ分割を継承しますが、それに適合しません。

その結果、洞察の遅れだけでなく、構造的な盲点が生じます。分析システムで生み出される洞察は、設計上、リアルタイムの意思決定が既に行われた後に発見されます。結果を変える可能性のあるシグナルは存在しますが、自律的な意思決定者によって継続的に照会されることを想定していないシステムに存在するため、意思決定時には表面化しません。

アーキテクチャが壊れているわけではありません。自律システムの要件に適合していないだけです。

欠けている分野：コンテキストエンジニアリング

共有メモリにより、ほとんどのチームが解決する準備ができていない問題、つまり、どのようなエクスペリエンスを永続させるかを決定する問題が発生します。

AIシステムは、取引、クリック、メッセージ、行動、結果といった膨大な量の生の体験を生成します。これらすべてを永続化することは現実的でも有用でもありません。意図的な選択がなければ、共有メモリはノイズと化します。課題は、より多くのデータを収集することではなく、他のエージェントが活用できるコンテキストへと体験を形作ることです。

これが役割です コンテキストエンジニアリング.

コンテキストエンジニアリングとは、どの観測が永続的なシグナルとなるか、それらのシグナルをどのように表現するか、そしていつ他のエージェントに提示すべきかを決定する分野です。これは、生のイベントとエージェントの推論の間に位置し、一時的な活動を、意思決定に関連する共有された理解へと変換します。

実際には、これはパターン、指標、条件付きの関連性を高めつつ、生の経験をほとんど薄れさせることを意味します。弱いシグナルやエッジケースは単独では重要ではないかもしれませんが、蓄積され、適切なタイミングで表面化することで価値が高まります。

コンテキスト エンジニアリングは、共有メモリが単に経験を保存するだけなのか、それとも経験を蓄積できるようにするのかを決定します。

これを正しく実行したら何が起こるか

これは将来の懸念事項ではありません。これは、現在インフラチームによって（多くの場合暗黙的に）行われているアーキテクチャ上の決定です。

デフォルトの道は孤立です。AIエージェントはそれぞれが独立して行動し、自身の経験のみを頼りにします。各エージェントは迅速かつ局所的に正しい判断を下しますが、知能は停滞します。同じエッジケースが繰り返し発生し、弱いシグナルが再発見され、失敗がより大きな速度と量で繰り返されます。

代替案は共有メモリ層です。

派生したコンテキストが持続し、意思決定時に可視化されると、経験の蒸発は止まります。一度発見された洞察は、引き続き利用可能です。弱いシグナルも蓄積によって意味を持ちます。意思決定の改善は、モデルの変化ではなく、エージェントがもはや孤立した推論を行わなくなることで実現されます。

これには、大規模なモデル、リアルタイムの再トレーニング、集中管理は必要ありません。メモリを、低レイテンシのアクセス、永続性、そして共有された可視性を実現するように設計された、第一級のアーキテクチャレイヤーとして扱う必要があります。

アーキテクチャのデフォルトはすぐに固まります。共有メモリなしで構築されたシステムは、エージェントが増加するにつれて、後付けがますます困難になります。選択肢は単純です。経験を蓄積するシステムを構築するか、無限にリセットされるシステムを構築するかです。