拉吉·舒克拉，SymphonyAI 首席技术官 – 采访系列

拉吉·舒克拉 负责 SymphonyAI 的技术路线图和执行，领导着开发 Eureka Gen AI 平台的工程团队。拥有近 20 年的 AI/ML 工程和研究经验，舒克拉还拥有来自微软的丰富的企业 AI SaaS 经验，在微软，他曾在 Azure、Dynamics 365、MSR 和搜索和广告部门领导全球 AI 科学和工程组织。拉吉在搜索、广告和企业 AI 领域拥有丰富的经验，并在消费者和商业领域成功构建了多个 AI SaaS 产品。

SymphonyAI 是一家企业 AI 公司，专注于构建能够为企业带来即刻商业价值的行业特定 AI 应用。与通用模型不同，SymphonyAI 提供了针对零售、消费品、金融服务、制造业、媒体和 IT 等行业的垂直解决方案，解决预测、欺诈防范、运营优化和分析等挑战。其产品由 Eureka AI 平台提供支持，该平台将预测、生成和代理能力融入到各个行业的工作流中。成立于 2017 年，SymphonyAI 已经发展成为垂直 AI 领域的全球领导者，服务于成千上万的企业客户，提供可扩展、领域专注的解决方案。

您在微软、甲骨文和现在的 SymphonyAI 中都处于 AI 创新前沿——是什么最初吸引您进入企业 AI 领域，您的观点如何随着时间的推移而演变？

我进入企业 AI 领域的起点是，我坚信公司应该实施能够解决实际商业问题的 AI，而不是仅仅为了 AI 而创造 AI。我已经看到，通用、广泛的 AI 解决方案很少能够带来变革性的价值。在 SymphonyAI，我们的公司战略和文化建立在开发能够理解特定行业挑战的 AI 的基础上，从金融犯罪检测到零售商品陈列再到工业连接工人赋权。企业就绪度增加了另一个维度——成功的企业 AI 需要的不仅仅是优秀的技术，还需要优秀的数据治理和架构、复杂的跨职能协作和工作流程，以及全面的透明度和可审计性。

企业在使用通用预训练模型时会遇到哪些具体的缺陷，特别是在金融或医疗保健等严格监管的行业？

通用预训练模型不适用于金融、医疗保健和食品等高风险、严格监管的环境。通用预训练模型会遇到关键障碍，包括需要基本的领域专业知识来解决行业特定的细微差别和满足严格的监管和合规要求，这些要求在不同地理区域会有所不同。最重要的是，它们无法提供企业所需的准确性和可追溯性，在错误可能会伤害消费者或触发监管违规的地方。无论是遵守反洗钱法规还是使食品能够快速从分销中心和货架上撤下，SymphonyAI 的垂直 AI 技术都是为我们运营的行业而设计的，并在这些行业的本体论上进行了训练，使其能够做出或自动化能够直接产生商业影响的决策。

将预训练模型与深度领域逻辑相结合被认为是解锁企业 ROI 的关键——这种方法的必要组件是什么，例如行业知识、KPI 对齐和监管防护栏？

将预训练模型与深度领域逻辑相结合可以通过创建理解业务背景和运营要求的 AI 系统来解锁价值。这种方法成功时，模型会被增强为行业特定的本体论，与企业 KPI 对齐，以确保输出直接服务于可衡量的业务目标，并配备监管防护栏，以提供必要的合规框架和审计跟踪。当这些元素协同工作时，通用 AI 会转变为能够推动可衡量结果的业务关键解决方案，同时保持企业所需的可靠性和合规性。

IBM最近收购了Seek AI 并在纽约市推出了Watsonx实验室，这可能表明企业AI领域的战略转变——这对企业AI的未来M&A和投资趋势有什么影响？

IBM 收购 Seek AI 和推出 Watsonx 实验室是我们预期的基本转变的验证：企业 AI 景观已经转变，表明下一波 M&A 将优先考虑拥有预训练垂直 AI 模型的公司，这些模型带有深度行业专业知识、治理和监管防护栏，以及结果驱动的 KPI。像 IBM 这样的战略收购者认识到，专注于企业数据的 AI 代理能够在理解特定行业工作流程时立即带来 ROI。市场正在围绕这样一个认识而整合：通用智能需要垂直专业化来驱动企业转型。

基础模型在什么时候会演变成领域特定的代理——哪些架构里程碑标志着这一转变？

基础模型不会自然演变成领域代理；它必须被工程化为领域代理。没有直接的路径让一个通用模型简单地“变得更聪明”并成为一个银行调查员。转变只会发生在工程团队停止依赖模型的原始智能并开始在其周围构建受治理的架构时——特别是注入一个上下文层（如知识图）和一个编排层，以迫使模型遵循业务流程，而不是其自身的概率趋势。

构建既能承受压力又具有垂直特征的代理工作流程的核心挑战是什么？SymphonyAI 如何解决这些挑战？

构建能够承受压力和具有垂直特征的代理工作流程的核心挑战是维持复杂多步骤流程的可靠性。SymphonyAI 通过其多层架构解决这些挑战，该架构将领域专业知识直接嵌入代理中，实现错误处理和故障恢复，并在多会话企业流程中保持持久的上下文管理。这使我们的代理能够在高风险、监管严格的环境中可靠地运行，在这些环境中，坚韧性意味着保持准确性、合规性和运营完整性。

SymphonyAI 强调了强大的数据基础、知识图和元数据层的重要性——为什么这些能力对于垂直 AI 代理来说至关重要，为什么许多企业难以实施它们？

强大的数据基础和知识图对于垂直 AI 代理来说至关重要，因为它们能够提供有意义的来源、提供上下文化的建议，并跟上市场、客户和流程的变化。许多企业难以实施这些能力，因为它们需要在数据架构、专门的本体论专业知识和基本的数据实践方面进行大量的前期投资，这些实践对于许多组织来说在组织和技术上都具有挑战性。这就是为什么具有深厚经验和知识的 AI 技术合作伙伴在垂直领域中非常有价值，包括他们能够在大量领域数据和客户上预训练 AI 的能力。

在现实场景中，例如金融犯罪检测或零售预测中，SymphonyAI 如何将预测、生成和代理 AI 合并成一个整体的“技能”？

SymphonyAI 通过创建整合的工作流程来合并预测、生成和代理 AI，其中每个 AI 产品都满足特定的业务问题。在金融犯罪检测中，我们的预测模型识别可疑的交易模式，生成 AI 创建详细的调查报告和风险评估。同时，代理 AI 编排整个工作流程，自动升级案件，协调合规团队，并根据实时发现调整调查策略。

关键在于，这些不是独立的 AI 工具，而是集成的能力，存在于理解业务背景、维持工作流状态并能够无缝地在预测分析、内容生成和自主行动之间转换的领域特定代理中，以提供完整的业务成果，而不是分散的 AI 输出。

您曾警告过，许多企业 AI 代理可能会在没有强大的基础设施的情况下陷入困境——什么是设计良好、容错的企业 AI 代理的关键特征？

设计良好的、适合审查的企业 AI 代理需要几个关键特征。虽然许多企业正在迅速投资和部署 AI 代理以提高效率、生产力和创新，但它们经常低估成功所需的基础工作。一些至关重要的方面使得代理能够成功，包括：

• 企业 AI 代理在企业数据上运行，企业数据通常是分散的，缺乏适当的程序化访问、权限和访问控制。代理需要像员工一样拥有相同的身份验证和授权条款。
• 代理还需要从所有形式的企业系统故障、网络中断和不稳定的端点中恢复。编排层需要实现长时间运行、持久、容错的工作流程，大多数流行的 LLM 编排器都不具备这一功能。
• LLM 将是非确定性的，并且会在任务中失败。故障恢复、重试和最优路径发现需要成为代理系统的关键功能。

对于考虑内部构建垂直 AI 平台的 CTO 来说，您会提供什么建议？

在多个行业（包括零售/消费品、工业、金融服务等）构建企业 AI 解决方案，需要同时掌握最先进的 AI 技术和深厚的领域专业知识，以从企业 AI 解决方案中获得真正的价值。我们的 Eureka AI 平台展示了如何将垂直特定的数据源、知识图、预测模型和代理适应每个行业，但这代表了多年研究投资和客户迭代，这是大多数内部团队所缺乏的。对于希望投资 AI 的企业和 CTO 来说，我建议他们选择能够从第一天开始提供真正结果的解决方案。垂直 AI 解决方案能够提供这些结果，向用户提供他们可以用来创造商业价值的数据。

展望未来，您如何设想企业 AI 架构的发展——基于共享基础模型的联邦垂直代理是否会成为常态？

我们不会看到简单的“联邦”代理；我们将看到受治理的代理架构。虽然共享的基础模型提供了推理引擎，但它们基本上是商品。成功的企业的“常态”将是部署专门的、垂直的代理，这些代理不仅仅是“交谈”，而是通过共享的上下文层严格编排。如果您只拥有基于基础模型的“联邦”代理，您将得到一个嘈杂、容易出现幻觉的系统——我们称之为企业 AI 的“泄漏管道”。为了使这种架构在生产中扩展，您需要三个超越简单联邦的特定层：

• 上下文（领域知识图）：代理需要共享一个单一的真理来源，而不仅仅是交换概率。
• 编排：您需要一个“主建筑师”来决定何时使用专门的代理，何时保持人在循环中。
• 治理：输出必须在离开系统之前是合法和运营安全的。

感谢这次精彩的采访，希望了解更多的读者可以访问 SymphonyAI。