思想领袖
你的AI智能体什么都知道,却什么都不理解

要点未经筛选的AI将所有数据一视同仁,在缺乏理解与判断的情况下生成知识。
查看更多
- 未经筛选的AI将所有数据一视同仁,在缺乏理解与判断的情况下生成知识。
- 三种记忆类型——制度记忆、行动历史记忆和对话记忆——构成了AI所需的权重系统。
- 经过筛选的记忆能让智能体提供针对具体情境的解决方案,而非泛泛而答,例如诊断Outlook问题。
“我们应该和我父母一起去爱尔兰旅行。”——这句看似无害的话,让我背脊发凉。
我和妻子经常旅行,很清楚自己的喜好。相比之下,妻子的父母很少去离家几百英里以外的地方,两人一起出国总共只有一次,就是来参加我们的婚礼。
而且,这趟旅行是岳父送给岳母的圣诞礼物,好让她去探望自己的家人,也许是最后一次。
我能用一个词概括这趟旅行可能的走向:灾难。我们到底怎样才能把截然不同的经历和期待融合起来,享受一次美妙的旅行,或者至少在结束时不至于相互厌恶?
作为一个有自尊的技术爱好者,我求助于技术,具体来说,就是AI。
但我没有想到,自己用氛围编程(vibe coding)制作AI家庭旅行规划应用的这个小实验,竟会教给我几乎所有将AI应用于企业IT所需的知识。
给AI的信息越多,它反而越笨
大多数企业AI部署都遵循一种可预测的模式。组织先给智能体一组指令,再把它连接到信息源,无论是RAG(检索增强生成)框架、现有知识库,甚至是MCP服务器。然后再加上一个大语言模型(LLM),让它自行发挥。
问题是,LLM本质上很笨。它们不知道如何为手头的全部信息排定优先级,因此往往把每一部分上下文都同等看待。人类必须增加一层信息筛选和整理,教模型什么重要、什么不重要。缺少这种筛选整理,得到的就是一个什么都知道、却什么都不理解的AI。
三种关键的记忆
有效地为企业AI筛选和整理信息,意味着充分利用三种特定的记忆。
第一种是组织记忆,起初可能显得很基础。有人说“金融服务”时,智能体知道对方指的是公司的金融服务部门,而不是整个行业。这会形成持久的组织知识,包含不常变化的定义、偏好和惯例。当它扩展到战略重点、关键举措和组织内部动态等知识时,就成为丰富的组织上下文来源。
第二种是行动历史,重点记录重要的决策、任务和事件。提交服务工单或部署系统时,智能体会识别这一具体行动,并将其记入行动历史。这便形成了一份把组织上下文串联起来的历史记录。
最后是短期对话上下文,可以把它理解为与智能体每时每刻的互动。它在当时很有用,但通常很快就会失去相关性。
这三种记忆结合起来,就构成了通用AI模型所缺少的权重系统。现在,有人向智能体讲述业务时,就会对全部记忆进行分类和排序,并筛选整理其中的重要信息。这构成了AI应当交付的核心:不只是领域数据,还有领域判断力。
经过筛选整理的记忆如何大规模应用
框架就先谈到这里,实际应用是什么样的?以下是我们亲自构建这些智能体时的发现。
一个常见IT场景是向帮助台智能体提交故障工单。假设Outlook不能用了,你输入问题描述,然后等待智能体审查并建议解决办法。
有了经过筛选整理的记忆,更好的流程可能是截取显示Outlook报错的屏幕图像,再上传给智能体。此时,智能体会(1)利用组织记忆理解你的工作环境;(2)检查行动历史中的相关事件;(3)依据上下文作出判断,给出针对性的解决办法,而不只是一个泛泛的回答。
结果是,智能体不必仅凭截图猜测答案,而是真正展开调查,审视当前的全部信息,给出更有用的回应。它的作用甚至可能扩展成一种网络效应或群体效应,通过查看系统中的其他用户,判断Outlook问题是只影响你,还是遍及整个企业。
把历史或记忆放进上下文,才是产生差异的关键。如果不能有效筛选整理记忆,就会落后于那些能做到这一点的组织。必须有一种架构,知道如何随着时间管理这些数据,并理解什么该保留、什么该呈现、什么该舍弃。
回到旅行
那么,我的AI旅行规划应用是怎样改变我对企业IT中AI的看法的?
我做了一个充当专属旅行礼宾的应用,先对每位参与者进行“采访”。我们各自解释旅行中什么最重要、什么必做、什么可以跳过。更重要的是,它还会追问“为什么”:为什么某件事重要,对我们有什么意义。
利用这些信息,它做了两件事。首先,它精心安排了一份兼顾每个人的旅行计划,我们都能在计划中看到自己的愿望和偏好。
当然,第一版行程只是草稿,仍有许多问题有待解答。
真正的魔力就在这时出现。我们向智能体询问酒店、景点或驾车行程,它给出的答案融入了我们的独特处境:“这段车程对孩子们来说会很长,但岳父会很喜欢那座城堡,以及旁边那家独特的咖啡馆。而这里也许正适合妻子享受她想要的那次按摩。”
它深刻理解我们在意什么,因此能以一种我认为其他方式无法实现的方式,帮助我们规划和完善旅程。
正是在最初的某一个这样的时刻,我理解了我们需要为企业客户构建什么:充分融入组织、交易和个人上下文的智能系统,让每一个答案、每一次互动都像指纹一样,完全专属于那个时刻、那次互动,从而创造一种其他方式根本无法实现的价值。












