Sushil Kumar, CEO of Cyara

人工智能洗脑现象让企业陷入失败

如今，每家企业都感到有压力去拥有一个人工智能故事。董事会希望看到它，投资者期待它，客户询问它。但这种压力已经创造了一波日益增长的“人工智能洗脑”现象——自动化变成了“人工智能”，分析被重新命名为“机器学习”，脚本化聊天机器人突然变成了“主动人工智能”。我以前见过这种情况。今天的人工智能格局与早期云计算采用的日子相似，当时公司将本地系统标记为“云原生”，尽管他们的架构或运营模式还没有准备好。同样的模式现在正在展开，其后果将会更糟糕。云计算洗脑的弊端是低效和浪费支出。人工智能洗脑的弊端是面向客户。我们没有部署后台基础设施，它会崩溃或显示错误代码。我们部署的是直接与客户交互的系统——这些系统会默默地、自信地、经常在重要的情况下失败。这可能是为什么根据一项 麻省理工学院斯隆管理学院的研究，绝大多数人工智能试点项目从未进入生产阶段。那些进入生产阶段的项目经常不能达到预期——这并不是因为人工智能能力不足，而是因为部署人工智能的组织跳过了测试、验证和运营准备的艰苦工作。人工智能洗脑的真正驱动力大多数此类行为的驱动力是害怕被视为落后。组织将人工智能作为创新信号，而不是真正能力的反映。他们绕过测试和验证以满足产品发布时间表，没有明确的开发流程以满足客户需求。投资者期望放大了这个问题。上市公司和风险投资支持的公司面临展示人工智能集成和人工智能驱动增长故事的截止日期。事实上，90%的高管报告称，他们感到来自投资者的压力，要求采用人工智能。 这种压力鼓励公司将现有的能力重新命名为人工智能，而不是构建真正新的、人工智能原生的产品。结果是到处都是虚假的期望——对于投资者、客户和负责使其运作的内部团队。它制造了创新幻觉，而实际上只是品牌推广。为什么主动人工智能打破了幻觉主动人工智能是炒作崩溃的地方。随着 68%的组织预计今年将集成人工智能代理，清算即将到来。这里有一个基本问题，大多数企业尚未解决：传统软件是确定性的。相同的输入，相同的输出，每次都一样。你可以编写一个测试，重现一个错误，预测行为。人工智能代理是非确定性的——相同的问题可能每次都会产生不同的答案。这不是一个错误。这是架构。它改变了你测试、监视和信任这些系统的所有内容。整个QA基础设施都是建立在可重现性的假设之上的。对于生成式人工智能，这个假设已经消失。你可以运行相同的测试100次，得到100个不同的响应——有些正确，有些微妙地错误，有些危险地错误。适用于IVR和脚本化聊天机器人的测试框架不适用于主动人工智能。大多数企业还没有建立新的测试框架。这就是人工智能洗脑被揭露的地方。展示一个精心策划的演示，具有可预测的路径，是一回事。处理一个真正的客户，他打断、自相矛盾、说着破碎的英语，并在晚上11点打电话讨论他不完全理解的账单纠纷，是另一回事。模型是基于数据训练的，而不是基于人类互动的现实——情绪化的、混乱的、不可预测的现实。当这些系统失败时，它们不会像传统软件那样失败。没有崩溃，没有错误代码。人工智能听起来自信，但实际上是错误的。它处理了95%的情况，但在5%重要的情况下却灾难性地失败了。与一个破碎的Web表单不同，这些失败会在任何人注意到之前在成千上万的客户中复制。人工智能失败的隐藏之处客户体验是主动人工智能最复杂的环境之一，也是人工智能洗脑最明显被揭露的地方。Gartner最近预测，2027年底，超过40%的主动人工智能项目将被取消，原因是成本增加、风险控制不充分或商业价值不明确。客户体验是其中一个主要原因。客户旅程很少涉及单个系统。它跨越了对话式人工智能、IVR系统、知识库、CRM平台和人工代理。混合旅程很常见——每次交互都可能跨越多个系统才能达到解决方案。我反复看到的是：每个系统看起来都能单独正常工作，但最终的结果仍然会失败。人工智能代理正确解释了一个问题，但CRM有过时的信息，提供了错误的答案。人工智能被责怪，但真正的问题是数据和所有权的碎片化。技术栈的碎片化也意味着可见性的碎片化。没有单一的客户旅程视图。与传统软件不同，传统软件有明确的错误信号，当主动人工智能出现故障时，它仍然表现得很自信。升级规则触发太晚。客户被困在循环中。系统继续运行——只有当客户感到沮丧或流失时，失败才变得可见。这是沉默的失败问题。人工智能没有崩溃。它正在自信地、悄悄地、一次一次地侵蚀信任，在规模上。从人工智能炒作转向运营纪律人工智能洗脑的答案不是更好的营销。它是一种根本性的转变，组织如何对待人工智能，从一个要宣布的功能转变为基础设施。我花了25年时间构建和扩展企业系统，包括创立了一家人工智能测试自动化公司。我在每个技术浪潮中看到的模式都是相同的。获胜的公司不是最先采用的人工智能的公司，而是运营最好的公司。以下是人工智能的运营方式：衡量生产性能，而不是演示性能根据受控环境评估人工智能告诉你关于真实世界行为的信息。重要的指标是升级准确率、解决率、政策合规性和客户满意度，跨越成千上万的非脚本化交互——而不是精心挑选的演示场景。在扩展之前修复基础人工智能不能解决破碎的工作流程——它会放大它们。路由不一致、知识库不完整、CRM数据过时——这些问题不会在添加人工智能后消失。它们会变得更糟糕、更快、更大规模。工作流准备必须在人工智能部署之前完成，而不是之后。测试整个旅程，而不是个别组件大多数企业在隔离中验证单个系统，但故障出现在交接处。跨语音、数字和人工智能渠道的端到端旅程测试是唯一能够捕捉客户实际经历的集成故障的方法。建立信任，而不仅仅是效率用户会拒绝将他们困在死胡同中的人工智能，提供错误答案，或让他们无法联系到人。优化效率而牺牲信任的企业将会失去他们试图服务的客户。人工智能洗脑的终结随着人工智能深入嵌入运营工作流程，企业将不再能够躲在炒作后面。 超过半数投资者现在期望在六个月内从人工智能中获得投资回报率。这种时间表不可能在没有为混乱、不可预测的现实世界而非精心策划的演示环境设计的系统的情况下实现。要求正在从简单地拥有人工智能作为产品功能转变为证明它在最重要的时候、在规模上、在生产中、与真正的客户一起有效地工作。人工智能洗脑可能会获得短期关注。它无法在现实面前生存。