ミラ・ジョボビッチのMemPalaceがAIの記憶問題を解決することを目指す

毎日、数百万の人々がチャットウィンドウを開き、人工知能（AI）に自分自身を説明し始めます。AIは注意深く傾聴し、すぐに賢いような答えを生成し、そしてセッションが終了すると、インタラクションの詳細をすべて忘れてしまいます。

この儀式の規模は驚くべきものです。ChatGPTだけが1日あたり10億以上のクエリを処理しており、2025年末の時点で800万人以上の週間アクティブユーザーがいます。生成的なAIの採用は、世界人口の16％以上に達しており、3年前には意味のある数ではありませんでした。

このモデルをサポートする巨大なインフラストラクチャは、環境へのコストが増加しています。2024年の米国のデータセンターは183テラワット時以上の電気を消費しており、国の総電力消費量の4％以上を占め、パキスタンの年間電力需要に相当します。

AIシステムの記憶力の欠如により、エネルギーの大部分がコンテキストの再確立に費やされます。セッションの開始時に繰り返される説明、プロジェクトの再導入、コンテキストダンプは、無駄な計算です。

記憶がツールをコラボレーターに変える

AIアシスタントには、デフォルトで永続的な記憶がありません。これは、AIを計算機のように使用している場合、数字を入力して結果を取得し、次に進む場合には問題ありません。

しかし、ほとんどの人はそれをもうそのように使用していません。彼らはAIと長い、反復的な、深く文脈化された会話をしています。何かを週や月にわたって構築し、共有言語、決定、歴史を開発しています。AIが同時に保持できるコンテキストの量は、サブスクリプションのレベルによって異なります。

今までのところ、AIは素晴らしいツールとなっていますが、初期の開発段階からコンパニオンとして認識されることを目指しています。その野心には記憶が必要です。記憶がなければ、進歩は続いてリセットされます。

永続的な記憶は、AIが実践で何ができるかを変えます。開発者は、設計上の決定とその理由を保持するAIを取得します。チームは、プロジェクトの歴史を再ブリーフィングせずに知っているAIを取得します。作家は、時間の経過とともに彼らの仕事について蓄積された知識を持つAIを取得します。モデルが保持できる知識の量は、重要なことではありません。重要なのは、モデルが実際に使用者についての知識を蓄積できるかどうかです。

なぜこれは解決が難しいのか

課題は、単にストレージではなく、検索です。理論的には、過去の会話を新しいセッションにフィードできます。しかし、それはすぐに計算的に不可能になります。コンテキストウィンドウは拡大していますが、無限ではありません。数ヶ月にわたる構造化されていないチャットをプロンプトにダンプすることは、効果的ではありません。また、時間とエネルギーを大量に消費します。

データエンジニアのパラス・パンデイは、コアの難しさを簡潔に述べています。 「AIの記憶は、実際にはストレージの問題ではなく、検索の忠実度の問題です。何かを保持することは可能ですが、推論時にはその一部を正確に取得するのが難しいです。データシステムで何年も解決しようとしているものの、より難しいバージョンです。」

現在のAI記憶アプローチでは、システムが何を記憶する価値があるかを決定します。しかし、AIが何が重要かを決定することを許可することは、元の交換で価値のあったニュアンスのあるコンテキストを捨てることになります。一般的なアイデアを保持しますが、具体的な懸念を説明し、検討し、却下した代替案について説明した会話全体を失います。

理想的なシナリオは、正しい情報が正しい時点で見つかることです。

MemPalaceの登場

これは、最近リリースされたオープンソースプロジェクトであるMemPalaceが対処しようとしている正確な問題です。要約または捨てるのではなく、会話を完全に保存し、古代ギリシャの記憶宮殿の技術から借用したナビゲーション可能な構造を構築します。ここで、演説家は、後で思い出すために、アイデアを想像上の建物の特定の部屋に置きました。

MemPalaceが注目に値するのは、そのアプローチの優雅さだけではありません。結果です。AIメモリの回復に関する標準的な学術的なベンチマークでは、MemPalaceは、無料システムでは今までに公開された最高のスコアを達成しています。また、サブスクリプション、クラウドの依存、外部APIの必要性なしに、完全にローカルで実行されます。

競合する商用サービスは、同等の、そしてしばしばパフォーマンスの悪い機能に対して、月額20ドルから250ドルまで請求しています。

このような、最高レベルのパフォーマンス、完全にローカルで、完全に無料の組み合わせは、注目に値するものです。また、MemPalaceはリモートサーバーではなくあなたのハードウェアで実行されるため、MemPalaceを介してルーティングされる各クエリは、データセンター業界の膨らむエネルギーレジャーに追加されません。

より大きな絵

MemPalaceは1つのプロジェクトですが、より大きなものを指しています。AIシステムにおける永続的な記憶は、プレミアム機能ではありません。新しいAIのユースケースのための基本的な特性です。

このプロジェクトは、ミラ・ジョボビッチ（はい、レジデント・イービルの女優）、ベン・シグマン、クレードによって構築され、7つのコミットしかありません。

専用のエンジニアリングチームを備えた商用製品を上回るシステムが、そんなにも手薄な努力から生まれたことは、困難がどこにあるかについて何かを語っています。問題はコンピューターでもリソースでもなかったのです。記憶が実際に何をしなければならないかについて、より明確なモデルが必要だったのです。