思想领袖
米拉·乔沃维奇的MemPalace旨在解决AI的记忆问题

数百万人每天打开聊天窗口,并开始向人工智能(AI)解释自己。它认真聆听,瞬间生成聪明的答案,然后,当会话结束时,忘记了与交互相关的每一个细节。
这种仪式的规模令人惊讶。仅ChatGPT每天就处理超过一亿个查询,截至2025年底,有超过8亿的每周活跃用户。生成性AI的采用已经达到了世界人口的16%,这是三年前不存在的数字。
这种模式背后有一个巨大的基础设施,其环境成本不断增加:2024年,美国的数据中心消耗了183太瓦时的电力,占该国总电力消耗的4%以上,相当于巴基斯坦一年的电力需求。
由于AI系统缺乏记忆力,大部分能量都浪费在重新建立上下文上。每次会话开始时,重复的解释、项目重新介绍和上下文转储都是浪费的计算。
记忆是将工具转变为协作者的关键
AI助手默认没有持久的记忆。如果我们像使用计算器一样使用AI——输入数字,得到结果,然后继续——这不会有什么问题。
但是,大多数人现在不再这样使用AI。他们与AI进行长时间、迭代、深度上下文化的对话——在数周或数月内构建东西,发展共享语言、决策和历史。AI可以在任何时候积极保持在脑海中的上下文量取决于订阅级别。
到目前为止,AI已经证明自己是一个很好的工具,但从早期开发阶段开始,它就旨在被认为是一个伴侣。这种雄心壮志需要记忆力。没有它,进步将继续重置。
持久的记忆改变了AI在实践中可以做什么。开发人员获得了一个保留架构决策和背后推理的AI。团队获得了一个了解项目历史而无需重新介绍的AI。作家获得了一个随时间积累了对其作品的知识的AI。模型的能力比它是否能够积累关于使用它的人的知识更重要。
为什么这个问题很难解决
挑战不仅仅是存储,还包括检索。在理论上,您可以将每次过去的对话都输入到新会话中。但是,这很快就会变得计算上不可行。上下文窗口虽然在扩大,但并不是无限的。将数月的无结构聊天转储到提示中不仅无效,而且耗时且耗能。
数据工程师Paras Pandey将核心困难简单地表述为:“AI记忆实际上是一个检索保真度问题,伪装成存储问题。你可以持久化任何东西,难点是检索正确的切片,而不在推理时填补空白。这是一个更难的版本,我们多年来一直在数据系统中解决的问题,而这个领域仍然处于早期阶段。”
当前的AI记忆方法涉及让系统决定什么值得记住。但是,让AI决定什么很重要,往往会丢弃掉最初交换中有价值的细致上下文。你保留了总体思想,但失去了整个对话,你在其中解释了你的具体问题,以及你考虑和拒绝的替代方案。
理想的情况是,使正确的信息在正确的时刻可用。
MemPalace的出现
这正是最近发布的开源项目MemPalace试图解决的问题。与总结或丢弃不同,MemPalace以完整的形式存储对话,并围绕它们构建一个可导航的结构,借鉴了古希腊的记忆宫殿技术,即演说家会在想象中的建筑物的特定房间中放置思想,以便稍后回忆。
使MemPalace值得注意的不仅仅是方法的优雅。它的结果令人印象深刻。在标准的学术基准中,用于AI记忆检索,MemPalace已经发布了迄今为止最高的分数,且完全免费,并且可以在您的机器上运行,无需订阅,无需云依赖,也无需外部API。
竞争对手的商业服务每月收费从20美元到250美元不等,提供的功能往往较差,且性能较差。
这种最佳性能、完全免费和完全本地运行的组合足以引起人们的注意。由于MemPalace运行在您的硬件上,而不是远程服务器上,因此您通过MemPalace路由的每个查询都不会增加数据中心行业不断增长的能源账单。
更大的图景
MemPalace只是一个项目,但它指向了更大的事情:认识到持久记忆并不是AI系统的高级附加功能,而是一项基本功。
该项目由一个小团队创建,包括Milla Jovovich(是的,就是《生化危机》的女演员)、Ben Sigman和Claude,并且被列为仅有七个提交。
一个超越商业产品的系统,拥有专门的工程团队,竟然来自如此精简的努力,这说明真正的困难在哪里。
问题不在于计算机或资源,而在于对记忆的真正需求有了更清晰的认识。












