为什么盲目信任 AI 可能是您最糟糕的决定

1979 年，一份 IBM 培训手册 提出了一个简单但令人震惊的警告：“计算机永远不能被追究责任；因此，计算机永远不能做出管理决策。” 而现在，45 年后，这个声明感觉像一个被忽视的预言。

2025 年，AI 不仅仅是协助；它做出自主决策，并且在许多情况下，它不仅仅是决策者，还领导者。事实上，大约 74% 的高管更信任 AI 的商业建议，而不是信任同事或朋友，38% 信任 AI 做出商业决策，44% 更愿意听从 AI 的理由，而不是自己的见解。这种转变很明显；AI 成为新的直觉。

但是，有一个问题。信任 AI 只有可能当算法值得信任时。而当信任被盲目地赋予，特别是在我们不能理解或审计的黑盒子中时，这是一种伪装成进步的风险。就像人类领导一样，信心没有责任感是危险的，当 AI 做错事时，谁来承担责任?

当工具成为老板

最初作为后台运营的流程工具，AI 现在被用于核心商业流程。但公司不仅使用 AI 来支持人类决策；他们现在信任 AI，特别是生成式 AI（GenAI），来做出商业决策，从商业战略到客户服务、财务建模等等。

这种转变是可以理解的。AI 不会分心、忘记指令或让情绪影响其判断。对于许多公司来说，这提供了一个令人吸引的解决方案，以避免人类错误的风险。然而，一个关键问题仍然存在：我们能信任 AI 成为老板并独立做出决策吗?

这不是一个简单的答案，但有一种方法是通过评估人们的可信度：通过他们的能力、可靠性和明确的意图。同样的原则也适用于 AI。

为了被信任，AI 系统必须提供准确、及时和适当的结果。但信任的程度和错误的容忍度取决于上下文。例如，在从医疗图像中诊断癌症时，失败的标准非常低。相反，当生成营销活动的想法时，有更多的实验空间。

我们已经看到 AI 被用于自主决策，例如信用审批，银行使用算法来确定贷款资格。零售商使用 AI 来管理库存和定价，而无需人工干预。但我们也看到过失败的例子，例如自动驾驶汽车误判道路状况。

一个警示故事展示了过度信任 AI 而没有充分监督的风险。Derek Mobley，一位 40 岁以上的黑人，通过 Workday AI 驱动的招聘系统 自 2017 年以来申请了 100 多个职位，每次都被拒绝。他声称基于年龄和种族的歧视。2025 年 5 月，法院批准了全国集体诉讼。该集体诉讼包括所有 40 岁以上的申请人，他们自 2020 年 9 月以来通过 Workday 申请并被 AI 推荐拒绝。

这个例子提出了一个重要观点：AI 缺乏情商、道德推理或自然的公平感。而由于 AI 正在从人类助手转变为独立决策者，现在存在一个责任空白。当算法在没有人工检查和平衡的情况下运行时，它们可能会做出错误的决定并强化现有的偏见。

关于黑盒子的问题

黑盒子 —— 当 AI 系统和逻辑不完全可见时 —— 越来越常见。虽然它们可能有可见的层次，但开发人员和用户仍然无法看到每个层次发生了什么，使它们不透明。

例如，ChatGPT 是一个黑盒子，甚至其创造者也不确定 它是如何工作的，因为它是在如此庞大的数据集上训练的。但是，由于缺乏透明度，是否可以在不完全理解其工作原理的情况下信任 AI 模型?

简而言之，不能：AI 幻觉 正在变得更糟。因此，在高风险场景中，例如财务决策、法律建议和医疗洞察，AI 需要严格的验证、交叉引用和人工监督。

2025 年 6 月，迪士尼和环球影业的诉讼 强调了这一点。该诉讼声称，GenAI 工具被训练在未经许可的情况下使用受版权保护的材料创建新内容。这一案例凸显了一个新现实：当公司部署他们不完全理解的 AI 模型时，他们可能会对所做出的决定负责。而无知不是辩护；这是一个责任。

然而，我们经常信任我们不理解的复杂系统。例如，大多数航空旅行乘客无法解释飞行的物理原理，但人们仍然会带着信心登上飞机，因为我们通过反复接触、集体经验和强大的安全记录建立了信任。

同样的逻辑可以再次应用于 AI。要求每个人都理解 LLMs 的工作原理是不合理的。但信任不是建立在理解的基础上；它需要熟悉度、透明度和可靠的表现记录。航空工程师知道如何测试和识别错误，我们必须要求 GenAI 提供者做到同样的事情。AI 的基本原则应该是信任，但要验证。

此外，业务领导者经常认为 AI 将成为解决所有商业问题的银弹。然而，这个神话困扰了许多公司在集成 AI 时。领导者可能更喜欢复杂和精致的模型，但如果他们进行了成本效益分析，可能会发现更简单的解决方案更合适。AI 是一个强大的工具，但它并不适合每项任务。公司需要在选择工具之前识别问题。

重建对 AI 的信任

虽然很明显，盲目信任 AI 是一个问题，但 AI 系统和算法可以成为企业最有价值的工具 —— 当它们被安全使用时。

对于希望利用 AI 工具的企业来说，首先需要研究的是供应商的尽职调查。当企业确定了可以从 AI 效率中受益的领域时，企业领导者应该评估供应商，不仅要看其性能声明，还要看治理控制。包括审查模型的开发、是否有可解释性工具、偏差如何监控以及是否有审计跟踪。选择具有透明流程的供应商对于从一开始就减轻风险至关重要。

在建立对 AI 系统的信任时，可能最重要的一点是确保数据治理，拥有干净、代表性和文档化的数据集。正如谚语所说：垃圾进，垃圾出。因此，如果数据不完整、有偏见或不准确，即使是最先进的模型也会产生不可靠的结果。

为了确保数据适合 AI，企业应该：

• 审计现有的数据集，检查缺失和重复数据，并检查偏见的来源

• 标准化数据格式

• 实施数据治理政策，定义所有权和访问控制

企业领导者需要进行的另一个关键步骤是对模型进行压力测试，模拟不同的条件。虽然模型可能在受控测试中表现良好，但了解模型在面临新数据或输入时的局限性至关重要。这就是为什么测试 AI 在各种情况下、使用不同类型的用户、不同的用例和来自不同时间段的数据非常重要的原因。

AI 验证是一个持续的任务。随着数据随时间变化，即使可靠的 AI 模型也可能失去准确性。因此，定期监控至关重要。企业需要监控模型的日常表现：它仍然准确吗？还是假阳性正在增加？就像任何需要维护的系统一样，模型应该定期用新数据重新训练，以保持相关性。

AI 不是值得信任或不值得信任的；它受到其学习的数据、创建它的人以及管理它的规则的影响。随着 AI 从有用的工具发展到商业顾问，领导者有机会不仅使用它，还要以深思熟虑和道德的方式使用它。如果我们做对了，AI 不仅将在未来变得强大，而且还将变得负责，责任明确地归属其开发者和监督者。因此，AI 将不仅仅是一个工具，而是一个值得信任的伙伴，帮助企业做出更好的决策，并在未来取得成功。vern 它。随着 AI 从有用的工具发展到商业顾问，领导者有机会不仅使用它，还要以深思熟虑和道德的方式使用它。如果我们做对了，AI 不仅将在未来变得强大，而且还将变得负责，责任明确地归属其开发者和监督者。