机器与人类交互：阻碍企业AI发展的“最后一英里”问题

最近，董事会关于AI的讨论集中在模型本身。其输出是否准确？训练数据是否干净？如何减少偏差？幻觉是否得到控制？这些问题仍然很重要，但输出不再是董事会和股东关注的唯一事情。相反，他们开始关注更难以衡量的东西——AI系统是否真正有效地与人们合作，是否真正能够在日常交互中发挥作用。

这也是为什么IBM最近面临股东提案，要求IBM提供更多关于其AI偏差和治理的透明度的原因。该提案关注的是偏差缓解，但更广泛的收获是，随着AI变得更加深入地嵌入决策过程中，它被评估基于其运营问责和可衡量的业务成果，而不是其基本能力。

我在与企业的对话中看到的是，很少有人仍然在辩论模型本身是否具有能力。大多数组织已经知道这些系统可以生成输出、自动化工作流程和表面洞察，并以惊人的速度做到这一点。更难的问题是，这些输出是否真正改善了业务内部的结果。员工是否真正使用这些系统？他们是否信任这些系统提供的推荐？决策是否变得更快、更一致？或者组织只是生成更多的内容、更多的分析和更多的噪音，而没有改变人们的运作方式？AI能力和人类采用的差距就是我所说的企业AI的“最后一英里”。这是ROI、信任、问责和运营一致性汇聚的地方，也是许多部署开始停滞的地方。

能力不是瓶颈——人类背景是

IBM股东提案本身集中在偏差上，这是一个熟悉且日益增长的行业问题。该决议要求IBM提供更多关于其识别和缓解AI模型偏差的方法的报告，包括这些缓解努力的潜在风险。IBM反驳说，大部分这些信息已经通过模型卡、治理文档、透明度报告和提交到斯坦福大学的基础模型透明度指数公开。大多数观察者承认IBM在运营化负责AI实践方面已经做得比许多供应商更好，同时也认识到治理和偏差仍然是整个行业未解决的挑战。

对我来说有趣的不是IBM的回应是否正确或错误，而是整个情况表明企业AI对话的发展方向。董事会已经基本上进入了一个新的AI评估阶段，关注决策质量、运营影响、员工信任和长期采用的业务内部。

这是一个神经科学视角让我得出一个与当前企业AI对话不同的结论。人类不是理性的输入-输出机器。我们带着有限的注意力、波动的信心、认知超载和不断变化的意图来做出决定。当交互感觉缓慢、预制的回应未能捕捉到我们真正的意思、或者人们必须与系统斗争才能得到有用的东西时，参与度就会在采纳度指标跟上之前就崩溃。幻觉风险、不一致性和偏差只会加剧这个问题，在原本旨在提高生产力和决策的工作流程中制造摩擦。这个“最后一英里”是大多数组织仍然低估的东西：AI的价值不是在模型生成答案时创造的，而是在它在正确的时间提供正确的答案，并且人类可以信任它并采取行动时创造的。

我们为什么忽略真正的“环节中的人类”——用户？

我们最近听到了很多关于“环节中的人类”和在AI驱动输出中需要有人签字的重要性的讨论。但是，如果最重要的人——用户——没有被正确理解呢？人与人之间的交互是复杂和多面的，但直接沟通之所以有效是因为没有丢失任何细微差别。如果有人犹豫、失去信心、变得沮丧或困惑，或者他们的意图发生变化，这些变化会在交互过程中传递，谈话也会相应地转变。大多数AI系统仍然难以识别这些信号，因为它们基本上是“按轨道运行”的，只响应用户的最后一个提示。

在我看来，这正成为当前企业AI部署的一个决定性限制。我们构建了能够生成信息的系统，同时在识别这些信息是否真正帮助人们做出更好的决策方面仍然存在局限性。

一个组织可以为成千上万的员工部署企业AI工具，但仍然可能无法实现这些系统实际被使用的有意义的对齐。诸如NIST AI风险管理框架、ISO/IEC 42001和EU AI法等框架正在推动组织朝着更大的治理成熟度和运营问责方向发展。但如果员工与AI的参与仍然零碎，治理只存在于纸面上。不同团队信任和使用AI的方式完全不同，衡量ROI的一致性几乎变得不可能，这是一个即使有大量提示也无法解决的问题。

AI过载的成本

我们现在进入了一个阶段，AI在AI工作流程中变得完全无处不在。生产力套件中嵌入了副驾驶，AI生成的会议摘要在每次通话后到来，仪表板实时显示预测洞察，推荐引擎为员工提供不断的建议，自动分析比大多数团队能够处理的速度还要快地出现。在纸面上，这看起来像是进步——企业比以往任何时候都产生更多的信息。但是认知科学几十年来一直明确指出：更多的信息并不自动产生更好的决策。

人们只能吸收这么多信息，然后就会开始感到信息过载。太多的推荐会产生犹豫。太多的警报会变成背景噪音。太多的AI生成选项会让员工疑惑而不是自信地行动。有趣的是，AI系统变得非常擅长于产生信息，同时仍然相对较差地理解人类如何在上下文中接收、解释和响应这些信息。董事会最终不关心系统可以产生多少摘要、推荐或生成的洞察。他们关心的是决策是否变得更加清晰和可靠地遍布整个业务。

AI已经进入了问责阶段

IBM股东提案可能源于对偏差的担忧，但我认为它反映了整个企业AI领域正在发生的更广泛的事情。AI的新颖性已经过去，企业在寻求对AI投资的坚实回报时，再也不能仅仅依靠模型的能力。技术已经证明了自己，但现在它需要问责。员工是否一致地使用这些系统？决策是否改善？信任和参与是否随着时间的推移而增加，还是逐渐侵蚀？随着AI变得更加嵌入日常工作流程中，下一代系统可能需要更加意识到人类的行为、注意力、信心和意图，如果企业希望实现持续的采纳和可衡量的ROI。直到那时，“最后一英里”可能仍然是企业AI采纳中最大的挑战之一。