停止责怪数据，开始修复你的目标

AI 学习来自我们。而我们是有偏见的。

由于 AI是在大量的人类生成内容上训练的，因此它会继承我们的偏见并将其融入其中。这就是为什么大多数关于 AI 偏见的讨论都集中在坏数据上。垃圾进，垃圾出。很简单。但即使有干净的数据，偏见仍然会潜入。

一个更微妙且经常被忽视的问题是目标偏见。它不像数据集问题那样明显，是客户面向 AI 使用的最大挑战之一。

在这篇文章中，我将深入探讨目标偏见在客户体验（CX）中的表现，为什么它很重要，以及品牌可以采取什么措施来解决它。

定义目标偏见

目标偏见不是关于有缺陷的数据。它是关于有缺陷的意图。AI 正确地做了它被告知要做的事情，如果它被告知要最大化收入，它会这样做，即使这意味着损害与客户的关系。

以达美航空为例。他们最近宣布推出 AI 驱动的定价，旨在确定消费者愿意支付的最高价格。这是目标偏见的完美例子。该系统不是为了帮助您找到一个好交易而设计的，而是为了提高转化率和降低运营成本。

假设您正在预订一趟去巴黎的旅行。您想要最好的票价，但系统想要最好的利润率。AI 可能会提供 800 美元的航班，而 400 美元的航班是可用的。这不是因为 AI 是错误的，而是因为它正在做它的工作。

这并不是消费者所期望的个性化体验……

为什么它是不可避免的

目标偏见是您品牌的价值观、文化和优先级的反映。它深深地融入您的 AI 中。真正的问题是，它“倾向”于哪一方？是偏向客户目标还是收入目标？

不同的团队、地区和文化有不同的思维方式，并且会以不同的方式训练 AI 模型。如果销售团队掌控一切，它将倾向于转化。如果客户体验团队负责，它可能更符合服务和节省的目标。

相同的架构，不同的结果。

解决方案不是完全消除偏见——而是将其引向正确的方向。让您的 AI 偏向长期忠诚度，而不是短期利益。

不匹配的 AI 的后果

品牌在目标偏见方面面临的最大风险是失去信任。

客户已经厌倦了通用的、不相关的品牌互动。当 AI 使这些体验变得更糟时，它会让买家感到沮丧和疏远。

如果大型语言模型（LLM）是在有偏见、基于假设的数据上训练的，它们将产生不亲切的回应。因此，客户会觉得品牌不关心他们。他们可能今天会从您那里购买，但在长期内不太可能继续忠诚于您的品牌。

体验现在驱动忠诚度。许多客户甚至愿意为此支付更多费用。当 AI 尝试向他们出售不符合他们需求的高价产品时，他们会注意到。他们选择退出。他们不会回来。

代理 AI 问题

当我们查看代理 AI 时，这个风险会增加。

代理 AI 被设计为自主运行。它可以在没有人工干预的情况下完成多步骤工作流。但如果 AI 的逻辑有缺陷或训练不当，损害就会增加。

专家们同意，代理 AI 还有很长的路要走。事实上，最近的一份报告显示，虽然几乎所有 CFO 都知道代理 AI，但只有 15% 正在认真考虑它。相应的数据表明，准确监测和防止偏见的能力是采用代理 AI 的一个关键障碍。

大多数代理系统仍然难以应对模糊性、持久记忆和问责制。这是一个危险的组合，当没有明确的方式来诊断或纠正错误或偏见时就会发生这种情况。

品牌不应该坐视不管，但它们需要战略性地进行。

品牌如何最小化目标偏见

让我们明确一点：您无法消除偏见。您就是偏见。

您的品牌决定了 AI 的行为——无论是好还是坏。这些偏见已经存在于您的当前客户互动中。它们存在于您的取消流程中的摩擦、您的条款和条件的透明度中，或者存在于您的网站上的 黑暗模式 中。

AI 偏见的区别在于规模。AI 可以更快地放大这些决策，并且几乎没有任何监督，这将侵蚀长期目标，如品牌忠诚度和生命周期价值。

这就是为什么您需要提前做好准备：

1. 提出正确的问题

在您开始 AI 之旅之前，请停下来问问自己：“我们真的有能力做对这件事吗？我们能否在不危及消费者体验和品牌的情况下做到这一点？”

太多的品牌因为不想落后而跳入 AI。但是跟随别人是糟糕的策略。

您是否拥有正确的客户数据、集成和治理来支持面向客户的 AI 使用场景，而不会增加偏见？您是否完全理解客户的目标?

如果答案是没有，或者只是“有点”，那么您还没有准备好。

2. 平衡目标

为了有效地平衡客户和业务目标，请考虑客户的需求作为目标，而您的业务目标是界限。您的 AI 应该在这些界限内运行，但目标是客户优先的结果。您也可以将其视为短期和长期思维之间的平衡。

短期指标（如每次交互的收入）很重要。但是它们通常与长期价值相冲突。甚至 AI 的“教父”警告不要让 AI 受短期利润驱动，因为这种思维方式在长期内不可持续。

您的 AI 可能会实现今天的收入目标，但您是否愿意用客户忠诚度换取快速利润?

再次考虑达美航空的例子。该策略在技术上是聪明的，符合业务目标。但是消费者并不高兴地接受支付更多机票费用的想法，该品牌也因此受到影响。

请以五年时间表来思考。您需要慢慢、可持续地增加生命周期价值。

3. 了解客户不断变化的需求

不仅仅是总体上，而是在每个使用场景中。他们试图完成什么？

如果您不了解这一点，您的 AI 只是在猜测。这就是为什么您的客户资料需要是最新的、完整的和具体的，既在高层次上，也在个别基础上。

广泛的细分和过时的假设是不够的。您需要代表真正的人的数据，而不是与客户互动的另一端。这将使您更深入地了解客户，并为您的 LLM 训练奠定基础。

检索增强生成（RAG）模型也可以帮助您完成此任务，通过从相关数据中提取来为客户提供更好的体验，特别是针对他们要执行的特定任务。

但是这不是一次性的练习。客户的目标会转变，期望也会发生变化。品牌需要定期更新其 AI 系统，以反映最新的发展。这意味着重新审视训练数据，并促进持续的学习，而不仅仅是微调输出。

4. 仔细审查 AI 供应商

并非所有供应商都是一样的，大胆的承诺并不总是意味着大胆的结果。选择具有现实世界专业知识和成熟的供应商，而不是仅仅依靠华丽的演示。具有数十年领域特定数据的供应商可以利用这些数据更好地训练模型，而不是依赖于通用数据集的新品牌。

您的客户可能会注意到当他们需要专业支持时，数据深度的差异。

并且请记住，如果 AI 在现实世界中失败，您的品牌将会受到影响。只要问问那些受到 2024 年 CrowdStrike 中断事件 影响的人。普通消费者并没有责怪提供商，他们责怪了部署该技术的品牌。

寻找在您的行业中、在您的使用场景中、具有数十年经验的供应商。领域知识胜过雄心壮志。

5. 建立治理

如果您没有明确、统一地定义逻辑，您的 AI 将开始根据模式而不是政策做出决定。这些模式可能不代表您的品牌、您的价值观或您的法律义务。

集中式编排和规则设置对于确保 AI 每次、在每次客户互动中都按预期运行至关重要。没有这种治理，一种模型可能会以一种方式处理计费问题，而另一种模型可能会给出完全不同的答案。

遵循行业最佳实践，并依靠 风险管理框架 来保护品牌。良好的治理不会减慢您的速度。它将在您需要清理后果时拯救您。

6. 小心范围代理 AI

媒体让人觉得基于代理的系统是未来的全部。但实际上，大多数品牌还没有准备好，这也没关系。

由于没有太多的证据，先从小处开始。与一个之前做过这件事、可以在整个过程中指导您的技术提供商合作。优先考虑低风险的工作流程，这些工作流程具有明确的步骤，代理级别可以被信任——理想情况下，由单个团队拥有。这些使用场景通常具有明确的逻辑、问责制和监督。然后您可以从那里学习和扩展。

如果多个团队参与或流程缺乏结构，请不要指望机器决策对您的客户有效。

要真正成功，代理 AI 需要访问完整和最新的客户资料。没有实时上下文，即使是最好的模型也会产生脱节和有偏见的体验。

偏见是镜子，而不是故障

AI 不会发明偏见。它反映了通过数据、训练和业务优先级告诉它的内容。这就是为什么一致性很重要。如果您的系统不是围绕客户设计的，AI 只会加剧脱节。

目标偏见不能完全消除，但可以管理。

让长期忠诚度成为您的首要目标。其他一切都会随之而来。当每个模型决策都经过忠诚度、生命周期价值和信任的过滤时，其他优先级（治理、客户理解、平衡目标）自然就会到位。

今天的捷径几乎总是会以明天为代价，但如果您以忠诚度为核心战略，AI 将从负担转变为优势。