拉吉·舒克拉，SymphonyAI 首席技术官 – 采访系列

拉吉·舒克拉 驱动 SymphonyAI 的技术路线图和执行，领导着构建 Eureka Gen AI 平台的工程团队。拥有近 20 年的 AI/ML 工程和研究经验，舒克拉还拥有来自他在 Microsoft 的工程领导角色的广泛企业 AI SaaS 经验，其中包括他的 14 年成功职业生涯，领导了 Azure、Dynamics 365、MSR 和搜索和广告部门的全球 AI 科学和工程组织。拉吉在搜索、广告和企业 AI 方面拥有丰富的经验，并在消费者和商业领域构建了多个成功的 AI SaaS 产品。

SymphonyAI 是一家专注于构建行业特定 AI 应用的企业 AI 公司，而不是提供通用模型。它为零售、消费品、金融服务、制造、媒体和 IT 提供垂直解决方案，解决预测、防止欺诈、优化运营和分析等挑战。其产品由 Eureka AI 平台提供支持，该平台将预测、生成和代理能力融入到每个行业的工作流中。该公司成立于 2017 年，已发展成为垂直 AI 的全球领导者，服务于成千上万的企业客户，提供可扩展、领域专注的解决方案。

您曾在 Microsoft、Oracle 和现在的 SymphonyAI 工作过 AI 创新领域的前沿——是什么最初吸引您进入企业 AI 世界，您的观点如何随着时间的推移而演变？

我的企业 AI 之旅始于一个核心信念，即公司应该实施能够解决真正的商业问题的 AI，而不是仅仅为了创造 AI。 我已经看到，通用、广泛的 AI 解决方案很少能带来变革性的价值。在 SymphonyAI，我们的公司战略和文化建立在开发能够理解特定行业挑战的 AI 上，从金融犯罪检测到零售商品陈列到工业连接工人赋权。企业就绪度增加了另一个维度——成功的企业 AI 需要的不仅仅是优秀的技术，还需要出色的数据治理和架构、复杂的跨职能协作和工作流程，以及全面的透明度和可审计性。

企业在使用通用预训练模型时会遇到哪些具体的缺点，特别是在金融或医疗保健等严格监管的行业？

通用预训练模型不适用于金融、医疗保健和食品等高风险、严格监管的环境。通用预训练模型会遇到关键障碍，包括需要基本的领域专业知识来解决行业特定的细微差别和满足严格的监管和合规要求，这些要求在不同的地理区域会有所不同。最重要的是，它们无法提供企业所需的准确性和可追溯性，在错误可能会损害消费者或触发监管违规的环境中。无论是遵守反洗钱法规还是使食品能够快速从分销中心和货架上撤下，SymphonyAI 的垂直 AI 技术专门为我们运营的行业构建，并在这些行业的本体论上进行了训练，能够做出或自动化决策，从而直接产生商业影响。

将预训练模型与深度领域逻辑相结合被认为是解锁企业 ROI 的关键——这种方法的必备组件是什么，例如行业知识、KPI 对齐和监管防护栏？

将预训练模型与深度领域逻辑相结合可以通过创建理解业务背景和运营要求的 AI 系统来解锁价值。这种方法在模型被行业特定的本体论增强、与企业 KPI 对齐以确保输出直接服务于可衡量的业务目标以及配备监管防护栏以提供必要的合规框架和审计跟踪时才会成功。当这些元素协同工作时，通用 AI 转变为驱动可衡量结果的业务关键解决方案，同时保持企业要求的可靠性和合规性。

IBM最近收购了Seek AI 并在纽约市推出了 Watsonx Labs，这可能表明 AI 景观中存在战略转变——这对企业 AI 的未来 M&A 和投资趋势有什么指示？

IBM 收购 Seek AI 和推出 Watsonx Labs 是我们一直预期的基本转变的验证：企业 AI 景观已经转变，表明下一波 M&A 将优先考虑拥有预训练垂直 AI 模型的公司，这些模型带有深厚的行业专业知识、治理和监管防护栏以及面向结果的 KPI。像 IBM 这样的战略收购者认识到，专注于企业数据的 AI 代理在理解特定行业工作流时可以带来立即的 ROI。市场正在围绕这样一个认识而整合：通用智能需要垂直专业化来驱动企业转型。

基础模型在什么时候会演变成特定领域的代理——哪些架构里程碑标志着这一转变？

基础模型不会自然演变成领域代理；它必须被工程化成一个。没有直接的路径可以让一个通用模型“变得更聪明”并成为一个银行调查员。转变只会发生在工程团队停止依赖模型的原始智能并开始在其周围构建受治理的架构时——具体来说，注入一个上下文层（如知识图）和一个编排层，以迫使模型遵循业务流程，而不是其自己的概率趋势。

构建既具有弹性又具有垂直特性的代理工作流的核心挑战是什么，SymphonyAI 如何解决这些挑战？

构建具有弹性和垂直特性的代理工作流的核心挑战是维持复杂的多步骤过程的可靠性。SymphonyAI 通过其多层架构解决这些挑战，该架构直接将领域专业知识嵌入代理中，实现错误处理和故障恢复，并在多会话企业流程中保持持久的上下文管理。这使我们的代理能够在高风险的监管环境中可靠运行，在这些环境中，弹性意味着维持准确性、合规性和运营完整性。

SymphonyAI 强调了强大的数据基础、知识图和元数据层的重要性——为什么这些能力对于垂直 AI 代理来说至关重要，为什么许多企业在实施这些方面会遇到困难？

强大的数据基础和知识图对于垂直 AI 代理具有意义的来源、提供上下文化的建议和跟上市场、客户和流程变化至关重要。许多企业在实施这些方面会遇到困难，因为它们需要大量的前期投资于数据架构、专业的本体论专业知识和对现有数据实践的根本性改变，这些改变很多组织都觉得在组织和技术上都很难以应对。这就是为什么具有深厚经验和知识的 AI 技术合作伙伴在该垂直领域中非常有价值，包括他们预训练 AI 于该行业的庞大数据和源的能力。

在现实场景中——例如金融犯罪检测或零售预测——SymphonyAI 如何将预测、生成和代理 AI 合并为凝聚的“技能”？

SymphonyAI 通过创建集成工作流来合并预测、生成和代理 AI，其中每个 AI 产品都满足特定的业务问题。在金融犯罪检测中，我们的预测模型识别可疑的交易模式，生成 AI 创建详细的调查报告和风险评估。同时，代理 AI 编排整个工作流，自动升级案件，与合规团队协调，并根据实时发现调整调查策略。

关键是这些不是单独的 AI 工具，而是领域特定代理中的集成能力，这些代理理解业务背景、维护工作流状态，并可以无缝地在预测分析、内容生成和自主行动之间转换，以提供完整的业务成果，而不是碎片化的 AI 输出。

您曾经警告过，许多企业 AI 代理可能会在没有强大的基础设施的情况下陷入困境——什么是设计良好的、容错的企业 AI 代理的关键特征？

设计良好的、适合审查的企业 AI 代理需要几个关键特征。虽然许多企业正在迅速投资和部署 AI 代理以提高效率、生产力和创新，但它们经常低估成功所需的基础工作。设计良好的代理需要的一些关键方面包括：

• 企业 AI 代理在企业数据上运行，企业数据通常是分散的，缺乏适当的编程访问、权限和访问控制。代理需要拥有与员工相同的身份验证和授权条款。
• 代理还需要从所有形式的企业系统故障、网络中断和不稳定的端点中恢复。编排层需要实现长时间运行、持久和容错的工作流，这是大多数流行的 LLM 编排器所不具备的。
• LLM 将是非确定性的，并且会在任务中失败。故障恢复、重试和最优路径发现需要成为代理系统的关键功能。

对于考虑内部构建垂直 AI 平台的 CTO，您会提供什么建议？

构建跨多个行业的企业 AI 解决方案，包括零售/消费品、工业、金融服务等，需要同时掌握最先进的 AI 技术和深厚的领域专业知识，以从企业 AI 解决方案中获得真正的价值。我们的 Eureka AI 平台展示了如何将垂直特定的数据源、知识图、预测模型和代理适应每个行业，但这代表了多年的研究投资和客户迭代，这是大多数内部团队所缺乏的。对于想要投资 AI 的企业和 CTO，我建议他们选择从第一天就能带来真正结果的解决方案。垂直 AI 解决方案提供了这些结果，提供了用户可以用来创造业务价值的数据。

展望未来，您如何设想企业 AI 架构的发展——基于共享基础模型的联邦垂直代理是否会成为常态？

我们不会仅仅看到“联邦”代理；我们将看到受治理的代理架构。虽然共享基础模型提供了推理引擎，但它们本质上是商品。成功的企业的“常态”将是部署专门的、垂直的代理，这些代理不仅仅是“交谈”，而是通过共享的上下文层进行严格的编排。如果您只拥有基于基础模型的“联邦”代理，您将获得一个嘈杂的、容易产生幻觉的系统——我们称之为企业 AI 的“漏管”。要使这种架构在生产中扩展，您需要三个超越简单联邦的特定层：

• 上下文（领域知识图）：代理需要共享一个单一的真相来源，而不仅仅是交换概率。
• 编排：您需要一个“总建筑师”来决定何时使用专用代理以及何时将人类保持在循环中。
• 治理：输出必须在离开系统之前是合法和运营安全的。

感谢这次精彩的采访，希望了解更多的读者请访问 SymphonyAI。