阿隆·埃雷夫（Alon Eirew），MCE系统公司首席技术官（AI）- 采访系列

阿隆·埃雷夫（Alon Eirew），MCE系统公司首席技术官（AI），领导公司的AI战略和端到端技术栈，涵盖架构、模型开发、基础设施、产品集成和AI在内部运营中的更广泛应用。他之前在英特尔（Intel (INTC ) ）工作了九年多，担任过高级软件工程师、软件架构师和自然语言处理（NLP）研究科学家等职位，在那里他指导知识提取研究、获得多年项目资金、在主要NLP会议上发表论文，并通过英特尔点燃（Intel Ignite）指导初创公司。早期在他的职业生涯中，埃雷夫帮助开发了个人助理技术，在Telmap，这后来成为英特尔的一部分，他还曾担任过早期AI公司的顾问，并在几所以色列大学教授计算机科学、面向对象编程、数据挖掘和信息检索等课程。

MCE系统公司 为电信提供商开发了AI原生体验层，连接遗留系统、实时数据和智能工作流，以支持客户在多个接触点上的交互。该公司成立于2005年，最初专注于数字设备生命周期管理，涵盖设备诊断和维护、以旧换新计划、远程设备评级和退货等技术。MCE系统公司正日益将生成和代理AI应用于这些工作流，帮助运营商检测设备问题、引导客户完成潜在解决方案，并在数字和辅助渠道上协调更复杂的服务旅程。

您在英特尔公司工作了近十年，专注于NLP、知识提取、信息检索，甚至早期的个人助理技术，这些技术最初来自Telmap，后来成为英特尔的一部分。回顾过去，您认为哪些想法在当时是超前的，哪些假设行业完全错误？

一个明显超前的想法是我们在LLM时代之前开发的个人助理。这些系统理解意图、连接任务背景并帮助用户自然地实现目标。这些系统具有与今天的代理相同的雄心。不同之处在于底层方法：我们依赖机器学习和算法的组合来推断用户意图。这种方法虽然难以大规模应用，考虑到用户表达请求的不同方式。

想象一下雇佣一名服务代表来处理成千上万个客户的询问，但他们只能处理以特定句子结构表述的询问。可以想象，这只会涵盖很小一部分用例，并且很难处理许多客户问题。LLM完全改变了一切。现在，理解用户意图基本上已经解决了。所以，在我们的类比中，代表现在更加灵活，可以与数百万客户交谈。

虽然我不会说行业完全错误地理解了某些事情，但我确实相信许多人低估了语言模型将变得多么重要。重大突破出现在第一个语言模型如ELMo、BERT和RoBERTa被引入时。在那时，很少有人真正理解即将到来的转变的重要性。这些模型是现代LLM的骨干，我们每天都在使用它们，几乎无法想象没有它们的世界。

大多数公司将这些初始模型视为狭窄应用中的有用组件，而不是新的计算范式的基础。在回顾中，许多公司错过了将自己定位为主要AI玩家的机会。

在您的研究生涯中，您专注于多文档知识提取和事件理解。随着企业越来越依赖大型语言模型，您为什么认为结构化知识提取仍然是一个至关重要的挑战？

LLM是解决一系列主题的强大工具，但企业应用和最终用户需要专业知识来解决特定问题，这需要访问知识。这种语境专有知识通常不是模型的训练数据，因此在企业中部署LLM意味着在可能数百万个内部数据点中收集理解。目前，LLM在技术和访问限制方面仍然存在显著的缺陷，这限制了它们的影响力。

例如，在MCE，我们提供客户服务AI代理解决方案。其中一个目标是允许电信运营商在不需要人工干预的情况下帮助客户解决技术移动设备问题。没有向AI代理提供有关设备的语境技术信息，AI代理只会提供通用结果，这些结果不能解决问题或与客户无关，然后迫使客户寻求人工帮助。这是我们在部署AI与客户合作时必须克服的知识提取问题，也是组织在获得期望结果时经常失败的地方。

我的研究深入探讨了从大型文档集合中进行知识提取和信息检索，探索了“事件”（在AI学科中用于定义信息的潜在因果关系和时间框架）与结构化理解之间的关系。我们在MCE的AI解决方案中应用了这种理解，以帮助LLM更好地总结、表示和搜索知识以解决客户的问题。

您在顶级NLP会议（如ACL、EMNLP和NAACL）上发表了研究成果。过去五年中哪些突破对现实世界产生了最大的影响，您认为哪些被高估的进步目前被过度宣传？

对我来说，有几项突破脱颖而出，它们随着LLM的发展而发生。

第一个突破是指令调优和提示工程。这必须首先解决，然后才能实现更广泛的采用。我们都经历过向LLM询问某些特定问题，但它陷入循环，接近但无法提供所需的答案。因此，弄清楚模型如何理解提示并提供准确的结果是一个巨大的步骤。

由此，下一个突破是代理，它需要LLM超越一次性提示任务，实际上可以做几件事情：创建计划、与最终用户交互、使用工具、使用内存和访问知识。这对于我们今天所处的位置至关重要。

但是，下一个突破，即完全解决幻觉问题，目前只部分解决，但正在进行中。到目前为止，已经取得了足够的进展，以至于我们可以比以前更依赖LLM。但仍然有工作要做，这也是为什么人类监督和防护措施仍然至关重要的另一个原因。

被高估的是人们对代理应该具有的自治程度的看法。没有人类监督的完全自治系统在复杂的商业环境中运行，在我看来还不够可靠。更有成效的是设计AI来执行高价值任务，升级不确定性，并解释其推理，而不放弃对整体流程的控制。这是agentic AI在短期内将创造最真实价值的地方。

您曾担任研究员、软件架构师、工程领导、初创公司顾问、讲师和现在的首席AI官。在您的职业生涯的不同阶段，您对成功AI的定义是如何演变的？

在我的整个职业生涯中，我学到了成功AI的定义继续演变，不同的核心价值观遍布各个学科。应用研究和架构教会了我AI必须在现实世界的约束下工作。学术研究教会了我严谨性和评估的重要性。工程领导表明，执行和运营纪律与模型本身一样重要。初创公司顾问教会了我AI创造最大的影响力时是在解决真正的问题并有明确的采用路径时。

今天，作为MCE的AI首席官，我将成功定义为AI创造可衡量的价值，同时赢得最终用户的信任。它需要提高客户、员工和业务的结果，足够可靠以适用于生产，足够透明以被管理，并且足够有用以被采用。在这种意义上，我的定义已经从“技术是否有效？”演变为“它是否以负责任的方式、可重复地和大规模地创造价值？”

这也是我们在MCE进行的转变，始于两年前，导致我们现在的位置。后者是我们现在对AI的内部使用和客户的思考方式。

MCE系统公司正在将AI应用于电信客户体验、客户服务和营销。电信行业中目前出现的最令人信服的AI使用案例是什么？

通信服务提供商（CSP），或通常所说的“运营商”，正面临着一个艰难的境地，他们面临着一种商品化的问题。价格是吸引新客户或留住客户的主要吸引力，但这并不可持续。如果你看看其他巨头，如苹果、亚马逊或Netflix，他们建立了一个伟大的产品，并围绕它建立了一个体验。这在金融领域很明显，银行被迫由新的敏捷玩家推动，转向提供全面的数字体验，而不仅仅是持有人们的储蓄并提供投资产品。同样适用于电信。

我们的愿景是帮助CSP为客户提供更好的体验，建立在他们已经提供的伟大连接产品之上。这意味着要更加主动和与客户在他们的整体网络和设备体验方面进行沟通。对于我们来说，AI是使他们能够做到这一点的关键。

在行业中，这已经成为一种防御工具，用于降低呼叫中心的劳动成本或提高员工的生产力。但对于我们来说，AI也是一个进攻工具，用于主动的客户服务和个性化服务，并且所有这些都发生在客户的移动设备上。

例如，捕获设备或连接问题或电池退化问题，然后在客户注意到之前帮助他们解决这些问题。这些体验建立了真正的忠诚度。了解客户的情况足够好，以便在正确的时刻提供正确的宽带套餐、数据增强或生活方式产品，这推动了更高的转化率。并且，将网络资产、CRM和设备数据中的信号聚集在一起，以准确预测流失并提前采取行动，这可能是所有这些使用案例中最有力的。

有很多关于成为“AI原生”或“AI就绪”的炒作。MCE系统公司如何接近这一范式，组织在这一转变中最常错过的最重要点是什么？

许多组织错过的是，AI转型不仅仅是技术部署，也是操作模式的变化。最好的机会是采用自然的方式：工作流程已经存在，痛点是可衡量的，AI可以明显改善速度、质量或决策。MCE系统公司以几种方式接近这一范式。

我们首先询问AI工具的成熟度和采用AI的方式，以提高员工的生产力。我们询问如何教育我们的团队，定义明确的使用指南，并将内部系统连接到AI，在那里它实际上可以每天产生影响。

一旦我们评估了我们的工具基础，我们就会寻找工作流自动化，并找出代理可以减少手动工作的地方。我们发现我们可以大大减少开发时间。在一个例子中，一个功能强大的原型应用程序只需几天就可以创建，否则需要两到三周。

经常被低估的是内部生产力的数据民主化。我们致力于更好地利用内部数据，以便人类和AI系统可以做出更好的决策。这包括了解客户需求、改善运营和从过去的经验中学习的产品。它仍然是一个正在进行的过程，因为评估什么有效什么无效是一个迭代和分析的过程。

许多组织正在争相部署AI代理。您从实践中了解到，自治AI可以真正创造价值的领域，以及人类监督仍然至关重要的领域有什么经验教训？

很容易陷入自动化的炒作中。但我相信以方法论的方式来处理代理。我的建议是永远不要从目标自动化水平开始，而是首先找出代理可以创造价值的工作流程，将它们分解成更小的部分，并询问哪些部分可以完全自动化，哪些部分需要半自动化，哪些部分需要人类判断。

在实践中，我们发现代理在高度定义的任务中创造了最大的价值，这些任务从收集信息到分析输入、生成推荐和准备输出以供下一步使用。微调的自动化在任务足够简单时效果更好，而不是尝试自动化整个复杂的流程。

人类仍然至关重要的是监督、异常处理、客户敏感决策和一般情况下需要问责的情况。目标永远不是取代人类决策，而是让代理处理可以可靠创造价值的部分，同时让人类处理需要问责的决策。

MCE系统公司提到使用AI提供更个性化的设备体验，并提高移动运营商的运营效率。您如何平衡个性化与日益增长的对隐私、透明度和用户信任的担忧？

因为AI感觉如此人性化，用户自然以泄露更多信息的方式与其交互。这给组织带来了真正的责任，要求他们在收集数据时要谨慎和透明。一个简单的例子：当客户作为故障排除过程的一部分提交屏幕截图时，该图像可能会无意中捕获屏幕上显示的个人信息。组织必须应用屏蔽以从图像中删除多余的内容，专注于交互的内容，并减少不必要的数据暴露。

对我来说，收集的任何数据都应该明显符合客户的利益和需求。它应该仅在支持特定目的时收集，例如解决客户的询问或提供适当程度的个性化。在同一时间，数据应该以保护隐私的方式处理，避免任何不必要的与客户的真实世界身份的关联。

换句话说，了解客户特定需求的特定情况，就像我们的业务一样。在我们的例子中，作为一家遵守隐私的组织，这是关于了解移动设备的状况和用户行为，就像提供商一样，而不是客户的身份和其他行为。

还重要的是客户本身的交互。警戒是这里至关重要的，以保持在目的、品牌声音和真正避免偏离组织准备好管理的内容内。实际上，警戒有助于避免法律或监管违规和负面的客户体验。有时，这些可能是艰苦的过程，但它们是必不可少的。

您曾教授过计算机科学基础、信息检索和数据挖掘等课程。如果您要为今天进入职场的学生设计一门AI课程，您会优先考虑哪些主题，哪些过时的概念您会删除？

课程需要在两个方面发生变化。曾经仅限于研究生课程的主题，如神经网络、变压器、大型语言模型、检索增强生成、评估、对齐和负责任的AI，需要成为本科的核心课程。进入职场的学生需要了解这些系统的工作原理以及如何批判性地评估它们。

学生还需要学习如何以负责任的方式使用AI作为学习和研究的工具。这意味着要质疑输出，验证来源，了解局限性，并将AI视为思考伙伴，而不是作业的捷径。

我不会删除的是数学和算法基础。我认为这些基础和重要性与以往一样。需要减少的是奖励机械实现而不体现批判性思维的任务。重点应该转移到问题公式、评估、系统设计和负责任的使用上。

作为多家初创公司的AI战略顾问，您认为创始人在构建AI产品时最常犯的错误是什么，哪些因素区分了成功地从原型转向生产的公司？

我看到的最常见的错误是爱上技术，然后才真正了解问题、客户或采用路径。第二个最常见的错误是不知道AI的局限性，因此将其强加于尚不成熟的用例中。

区分那些成功地将产品从原型转移到生产的创始人的是深厚的领域专业知识和研究态度。最好的AI产品来自于那些对特定垂直领域有深刻理解的创始人，他们能够识别出真正的技术差距。他们不是从“我们可以用AI做什么？”开始的，而是从“这里有一个特定的问题，现有的市场解决方案存在不足之处，AI可以在这里提供可持续的解决方案”开始的。

此外，成功的创始人不断从客户、竞争对手、顾问和失败的尝试中学习。他们研究决策的制定方式、预算的移动方式以及对目标受众建立信任的方式。归根结底，他们不仅仅是在构建一个产品，他们正在构建一些需要在真正的环境中生存的东西，而不是仅仅为了产品本身。

展望未来五年，您认为AI的最大影响将来自更强大的基础模型、代理系统、多模态AI、设备上的智能，还是目前行业低估的完全不同的趋势？

最大的影响不会仅仅来自基础模型的改进，而是来自模型如何嵌入可以观察和在真正的工作流程中执行的系统，同时也改进了它们。从强大的模型到能够的系统的转变是我预计在近期内会有最有意义的进展的地方。

这将变得尤其强大，当系统变得完全多模态时，能够推理文本、语音、图像、视频和其他上下文的真实世界信号，能够紧密地模拟人类理解世界的方式。这将在客户支持、医疗保健、制造业等领域开辟新的可能性。

另一种正在出现的可能会带来颠覆性的技术是与物理世界交互的代理。像波士顿动力公司这样的公司已经展示了可能性的艺术和当感知、推理、规划和身体动作汇聚时的潜力。不论是人形还是专用机器人，具有身体的代理可能会证明是我们在接下来的五年中看到的最有形和最具革命性的AI表达形式之一。对于MCE来说，这在物流和运营工作流程中创造了机会，在这些工作流程中，仍然有许多重复、低复杂度的任务需要物理的人类交互。例如，拾取设备、按按钮、连接电缆或在站点之间移动设备。这些都是通过机器人和AI实现自动化的理想候选者，使系统更加高效、一致和能够处理更多的容量。

对于电信行业来说，能够预测客户流失并采取行动的AI模型将是未来几年中的关键。如果您可以建立一个可靠的模型，能够整合来自不同客户点的数据，能够准确评估流失的可能性并采取行动，您将为供应商解决了一个停滞不前的问题。

感谢这次精彩的采访，希望阅读更多的读者可以访问MCE系统公司。