您的AI代理知道一切——却什么也不理解

“我们应该加入我父母的爱尔兰之旅”——这看似无害的陈述让我感到一阵寒意。

我和妻子广泛旅行，我们知道自己喜欢什么。我的岳父岳母则很少旅行超过几百英里，他们一起出国的次数只有一个——就是我们的婚礼。

更糟糕的是，这次旅行是我的岳父送给岳母的圣诞礼物，这样她就可以去拜访她的家人，也许这是她最后一次机会。

我可以想象这次旅行将会是一场灾难。我们如何将如此不同的经历和期望融合在一起，以便我们能够拥有一个难忘的旅行——或者至少不会在旅行结束时互相仇恨?

作为一个自尊的技术人员，我求助于技术——特别是人工智能。

但是我没有预料到的是，我尝试使用人工智能来规划家庭旅行的实验将教会我几乎所有关于在企业IT中应用人工智能的知识。

你越喂养AI，它就越愚蠢

大多数企业AI部署遵循一个可预测的模式。组织首先给代理一组指令，并将其连接到信息源，无论是RAG（检索增强生成）框架、现有的知识库，还是MCP服务器。接下来，添加LLM，让它发挥作用。

问题在于，LLM在其核心是愚蠢的。它们不知道如何优先处理所有可用的信息，因此它们倾向于平等对待每个上下文。人类需要添加一个策展层，教导模型什么是重要的，什么是不重要的。没有策展，你会得到一个知道一切却什么也不理解的AI。

三个重要的记忆类型

有效的企业AI策展意味着充分利用三个特定的记忆类型。

第一个是机构记忆，这看起来很基本。当有人说“金融服务”时，代理知道他们指的是公司的金融服务部门，而不是整个行业。这成为持久的组织知识，充满了定义、偏好和惯例，这些通常不会经常改变。随着它扩展到机构知识，包括战略优先事项、关键计划和组织动态，它成为丰富的机构背景的来源。

接下来是行动历史，它关注重要的决策、任务和事件。当提交服务单或部署系统时，代理识别出特定的行动并将其记录到行动历史中。这成为组织背景的历史记录。

最后，有短期对话背景。可以把它看作是与代理的瞬间交互。它在当时很有用，但很快就会失去相关性。

这些记忆类型一起创建了权重系统，这是通用AI模型所缺乏的。现在，当有人告诉代理关于业务时，他们正在分类和优先处理所有这些记忆，并策展重要的信息。这形成了AI应该提供的核心：不仅仅是领域数据，还有领域判断。

策展记忆在规模上的样子

但是，框架够了，实践中是什么样子？我们在构建这些代理时发现了以下内容。

一个常见的IT场景是将故障单发送给帮助台代理。假设您的Outlook不工作，因此您输入问题描述并等待代理审查和建议解决方案。

但是，有了策展记忆的帮助，一个更好的过程可能涉及拍摄显示Outlook错误的截图并将其上传到代理。现在，代理（1）利用机构记忆来理解您的工作环境；（2）检查相关事件的行动历史；并（3）应用特定解决方案的上下文判断，而不仅仅是一个通用的答案。

结果是一个智能代理，它不必根据截图猜测答案。它实际上正在询问，查看所有当前运行的信息，并提供更有用的响应。代理甚至可以扩展到网络或群集效果，查看系统中的其他用户，以确定Outlook问题是否仅仅是您的问题还是整个企业的问题。

背景或记忆的上下文化是差异的决定因素。如果您没有有效地策展记忆，您将落后于那些做得好的组织。拥有一个知道如何管理数据、理解什么是重要的、什么是次要的以及什么可以丢弃的架构至关重要。

回到旅行

那么，我的AI驱动的旅行规划器如何改变了我对企业IT中AI的看法？

我构建了一个应用程序，作为我们的个人旅行管家，首先“采访”每位参与者。我们都解释了对旅行的期望：什么是必做的，什么可以跳过。更重要的是，它询问了我们的“为什么”——为什么某事对我们重要，什么是它的意义。

使用这些信息，它做了两件事。首先，它策划了一个平衡的旅行计划，以满足每个人的需求——我们都可以在计划中看到自己的愿望和偏好。

但是，当然，这个初始行程只是一个草稿。还有很多问题需要回答。

然后，真正的魔力发生了。我们询问代理关于酒店、景点或驾驶路线，代理给出的答案充满了我们独特情况的背景：“这将是一段漫长的驾驶路程，对孩子们来说，但我的岳父会喜欢这座城堡（以及旁边的独特咖啡馆）——这可能是我的妻子可以享受按摩的完美地点。”

充满了对我们重要事物的丰富理解，它能够帮助我们规划和完善我们的旅行，以一种我认为其他方式无法做到的方式。

而且正是在第一次对话中，我意识到我们需要为企业客户构建什么：智能系统，充满组织、交易和个人背景，每个答案和每次交互都像指纹一样——完全独一无二，能够提供一种其他方式无法实现的价值。我们的企业客户：智能系统，充满组织、交易和个人背景，每个答案和每次交互都像指纹一样——完全独一无二，能够提供一种其他方式无法实现的价值。