防止 AI 编造故事：预防幻觉的指南

AI 正在革新几乎每个行业的运作方式。它使我们更加高效、更加富有成效、并且在正确实施的情况下，使我们在工作中表现得更好。但是，当我们对这项新技术的依赖迅速增加时，我们必须提醒自己一个简单的事实：AI 并非万无一失。其输出不应被当作真理，因为，就像人类一样，AI 也会犯错误。

我们称这些错误为“AI 幻觉”。这种错误可能从回答 数学问题不正确 到提供 不准确的信息 关于政府政策。在高度监管的行业中，幻觉可能导致昂贵的罚款和法律问题，不仅仅是客户不满意。

AI 幻觉的频率应该引起我们的担忧：据估计，现代大型语言模型（LLM）在 1% 到 30% 的时间内会产生幻觉。这导致每天产生数百个错误答案，这意味着希望利用这项技术的企业必须在选择要实施的工具时非常谨慎。

让我们探讨为什么 AI 幻觉会发生，什么是风险，以及我们如何识别和纠正它们。

垃圾输入，垃圾输出

你还记得小时候玩“电话”游戏吗？最初的短语会在传递给每个玩家时变得扭曲，最后变成一个完全不同的陈述？

AI 从其输入中学习的方式类似。LLM 生成的响应只有在它们被输入正确信息时才是好的，这意味着不正确的上下文可能导致虚假信息的生成。如果 AI 系统建立在不准确、过时或有偏见的数据上，那么其输出将反映这一点。

因此，LLM 只有在正确的输入下才是好的，特别是在没有人类干预或监督的情况下。随着更多自主 AI 解决方案的出现，提供正确的数据上下文以避免产生幻觉至关重要。我们需要对这些数据进行严格的训练，或者能够以一种方式引导 LLM，只有在提供的上下文中才会响应，而不是从互联网上的任何地方获取信息。

为什么幻觉很重要？

对于面向客户的企业，准确性是至关重要的。如果员工依赖 AI 来完成任务，如合成客户数据或回答客户查询，他们需要相信这些工具生成的响应是准确的。

否则，企业将面临声誉和客户忠诚度的损害。如果客户被聊天机器人提供不充分或错误的答案，或者他们在等待员工核实聊天机器人的输出时，他们可能会将业务转移到其他地方。人们不应该担心他们与之互动的企业是否提供虚假信息——他们想要快速可靠的支持，这意味着这些互动至关重要。

企业领导者必须在选择合适的 AI 工具时做好他们的工作。AI 应该让员工有更多时间和精力来完成更高价值的任务；投资于需要不断的人类监督的聊天机器人违背了采用它的初衷。但是，幻觉的存在真的如此普遍，还是这个术语只是被过度使用来描述我们认为不正确的任何响应？

对抗 AI 幻觉

考虑到：动态含义理论（DMT），即在这种情况下，用户和 AI 之间的理解正在被交换。但是，语言和主题知识的局限性会导致对响应的解释不一致。

在 AI 生成的响应中，可能是潜在的算法还没有完全具备准确解释或生成与人类期望一致的文本的能力。这一差异可能会导致表面上看似准确但最终缺乏真正理解所需的深度或细微差别的响应。

此外，大多数通用 LLM 只从互联网上公开的内容中获取信息。企业应用的 AI 在被告知特定于各个行业和企业的数据和政策时表现更好。模型也可以通过直接的人类反馈来改进，特别是被设计为对语气和语法做出反应的代理解决方案。

这些工具在成为面向消费者的产品之前也应该经过严格的测试。这是防止 AI 幻觉的关键部分。整个流程应该使用基于对话的测试来测试，LLM 扮演一个角色。这使企业能够更好地假设在将 AI 模型发布到世界之前与 AI 模型的对话的成功率。

对于 AI 技术的开发者和用户来说，必须意识到他们收到的响应中的动态含义理论，以及输入中使用的语言动态。请记住，背景是关键。作为人类，我们的大部分背景是通过未言明的方式理解的，无论是通过肢体语言、社会趋势，甚至语气。作为人类，我们有可能对问题做出反应，但是在我们目前的 AI 版本中，人类与人类的理解并不能轻易地被背景化，所以我们需要更加批判地看待我们在书面交流中提供的背景。

可以说，并非所有 AI 模型都是一样的。随着这项技术的发展以完成越来越复杂的任务，对于希望实施这项技术的企业来说，识别出能够改善客户互动和体验的工具至关重要，而不是损害它们。

责任不仅在于解决方案提供者来确保他们已经尽了一切努力来最小化幻觉的发生。潜在买家也有他们的作用。通过优先考虑经过严格训练和测试的解决方案，并能够从专有数据中学习（而不是从互联网上的任何内容中学习），企业可以充分利用他们的 AI 投资，为员工和客户的成功做好准备。