人工智能的障碍不是失败，而是失败得太慢

人工智能的障碍不是失败，而是失败得太慢

人工智能（AI）正在改变组织的运作、创新和增长方式。各个行业的组织都在使用人工智能来简化工作流程、解锁新的效率并支持更快、更自信的决策。随着人工智能成为现代生产力的引擎，它帮助组织实现更大的灵活性和规模。

然而，尽管人工智能有许多可衡量的好处，但有些意外的事情正在发生。许多企业正在遇到障碍。有些团队不是加速创新，而是陷入复杂性、风险管理和对未知的恐惧中。

为什么？因为我们对人工智能的思考方式是错误的。

人工智能经常被误解为一种必须在被信任之前完全被控制的技术。这源于这样的错误信念：确定性是安全的前提。但是，这种解释忽略了人工智能的本质和其价值。人工智能是一种适应性工具，旨在学习和随着使用而演化。将其视为传统软件的行为是对其性质的误解，并削弱了其潜力。

在利用人工智能的同时，许多组织无意中将风险缓解转变为瓶颈。各个行业的团队都犹豫是否应该部署人工智能，除非他们可以解析、解释和证明每个决策过程的每一层，往往到了不切实际的程度。虽然这种程度的审查反映了善意的尽职调查，但它经常破坏了人工智能的目的：加速洞察、放大团队和大规模解决问题。

是时候重新校准了，转向一种强调韧性、生产力和实用性解释的模型，而不是要求完全控制。

对黑盒子的恐惧正在阻碍进步

人们天生对自己不完全理解的系统感到不舒服，人工智能工具，尤其是大型生成模型，往往以难以解释的方式运行。因此，许多领导者陷入陷阱：如果他们无法完全解释每个人工智能决策，则该系统无法被信任。

因此，许多组织过度设计监督流程，添加层层的跨职能审查、合规检查和可解释性审计，甚至对于低风险用例也是如此。当团队将可解释性视为需要打开每个黑盒子时，他们将人工智能实施陷入无休止的审查循环。这会产生一种“运营瘫痪”，团队变得如此害怕用人工智能做错事，以至于他们根本不做任何事情，导致动力逐渐丧失、计划停滞和最终失去机会。

问题不在于控制系统的意图，而在于风险缓解必须等同于控制的假设。在实践中，设计人工智能系统以韧性而非完美为目标是一种更有效的方法。关键是放弃程序化方法，转向基于结果的思维方式。

人工智能中的韧性意味着接受错误将会发生，并建立护栏以检测和纠正它们。这意味着将对话从如何防止每种可能的失败转变为如何确保快速检测和干预，当事情出错时。

大多数现代系统都是以某种程度的错误为前提而构建的。例如，网络安全工具不被期望是100%不可入侵的。它们不是为此而设计的。相反，它们被设计为检测、响应和创建快速恢复协议。同样的期望也应该适用于人工智能。

要求对每个人工智能决策都有完整的可见性是不切实际的，甚至可能对价值创造产生反作用。相反，组织必须提倡“仪表盘级可解释性”，提供足够的上下文和监督以检测错误和应用保障措施，而不会阻碍企业创新。

不要过度复杂化人工智能部署

组织应该在人工智能实施中无论使用什么场景都采用完全的互操作性。与其成为一种干扰，完全的互操作性可以确保无缝集成并解锁系统中的更大价值。在未来，跨企业，可能会看到虚拟的由人工智能代理组成的军队，他们都在为共同的目标而努力。

这种思维方式是关于将可解释性大小调整以匹配风险水平——停止将每个人工智能使用场景都视为操作自动驾驶车辆。团队可以通过设计人工智能系统，使其具有生产力、问责制和与人类意图一致性，而不会过度复杂化部署来实现这一目标。

一些实用的策略包括：

• 在人类难以处理的地方部署人工智能： 使用人工智能来增强人类决策，在复杂、高容量领域，如资源分配、任务优先级或积压管理，速度和规模比完全确定性更重要。
• 定义人工智能成功指标： 与其尝试解释每个模型，不如定义什么是良好的结果。时间表是否有所改善？返工是否减少？用户是否更频繁地接受人工智能建议？这些指标提供了人工智能工作效果的更清晰图景，而不是深入研究模型的决策过程。
• 建立信心阈值： 设置人工智能输出可以被自动接受、标记或发送给人类审查的容忍度，并建立反馈循环以帮助系统随时间学习和改进。
• 培训团队提出正确的问题： 与其让每个团队都成为人工智能专家，不如专注于培训他们提出正确的问题，例如人工智能被用来解决什么问题、什么风险最重要以及如何监测有效性。
• 优先考虑人类推理： 即使是最好的人工智能系统也能从人类监督中受益。建立允许人们验证、纠正或覆盖人工智能的工作流程，以创建共享的问责制。

这种方法可以与驾驶汽车进行比较。我们大多数人不理解变速箱如何工作，燃油燃烧如何驱动加速，或者传感器如何检测附近的车辆，但这并不妨碍我们驾驶。我们依靠的是仪表盘：一个简化的接口，提供我们安全操作所需的信息，例如速度、燃油水平和维护警报。

人工智能系统也应以同样的方式管理。我们不需要每次发动引擎时都打开引擎盖。需要的是一套明确的指标，表明何时出现问题，何时需要人工干预，以及下一步该怎么办。这种模型使组织能够专注于真正重要的监督，而不会陷入技术复杂性中。

停止妨碍自己

人工智能永远不会完美无缺。如果组织将其置于人类团队无法达到的完美标准，他们将失去重新构想工作、加速决策和在整个企业范围内解锁潜力的机会。

通过专注于韧性而非控制，拥抱仪表盘级可解释性，并根据上下文量身定制监督，我们可以停止过度思考人工智能，开始用它创造更多成功。