Jayant Swamy，Genpact 首席企业架构师 – 访谈系列

Jayant Swamy，Genpact 首席企业架构师，是一位拥有二十多年经验的技术与数据领袖，业务范围涵盖企业架构、人工智能、数据工程、云技术以及大规模数字化转型。2024 年加入 Genpact 之前，他曾担任 Xtrac8.Tech 的首席技术官兼首席架构师，并担任一家专注于生成式 AI 和大语言模型等技术的 AI 初创公司的首席技术官兼联合创始人。Swamy 之前在埃森哲工作超过十年，担任过首席技术官、应用智能研究所全球负责人及全球常务董事、Data on Cloud 业务的董事总经理兼全球业务负责人、首席数据架构师以及数据工程与数据创新全球负责人等职务。其职业生涯早期，他在房利美（Fannie Mae）工作七年多，负责与服务和信用损失管理相关的技术和业务信息项目，此前曾在甲骨文（Oracle (ORCL ) ）担任高级首席顾问多年。

Genpact是一家全球技术与商业服务公司，专注于帮助企业通过人工智能、数据、流程智能和行业专长来转型复杂业务。公司起源于 1997 年 GE Capital 的一项计划，2005 年独立，2007 年在纽约证券交易所上市。如今，Genpact 与银行、保险、金融、供应链、消费品、医疗保健和技术等行业的组织合作，日益强调生成式 AI、代理系统、自动化以及 AI 驱动的企业运营。

您的职业生涯从 Oracle、Fannie Mae 和 Accenture 的企业架构与数据领导岗位，转到创业环境，现任 Genpact 首席企业架构师。这些经历如何塑造了您对 AI 自主性在何处能够为企业创造真正价值、何处仍需人为判断的看法？ 

在我的职业生涯中，我认识到规模、治理、集成和风险与创新同等重要。企业经验表明，即使技术再先进，如果无法在组织内部落地也会失败；而创业公司则强调快速行动、实验以及保持架构简洁、可适应的重要性。AI 自主性在结合这两种思维时效果最佳——在高速创新的同时保持坚实的基础。这样，AI 才能真正改变组织的工作流。我们近期研究的结果也清晰地印证了这一点。

模型本身只是方程式的一部分。其周边的架构——数据、系统、工作流、控制和集成——决定了 AI 是否能够规模化创造价值。这正是我们所说的“没有流程智能就没有人工智能”。这也是 Genpact Labs 应用 AI 工作的前提，我们将新兴的 AI 能力转化为生产级、可交付给客户的解决方案。每项能力都关联可衡量的业务成果，并嵌入相应的工作流、数据和运营所需的控制机制。

AI 应该在目标明确、数据可靠、边界清晰的情况下发挥作用。对于高风险、模糊、主观、受监管或需要问责与同理心的决策，人类判断仍然至关重要。自主性并非要将人从系统中剔除，而是要设计系统，使每个人都清楚 AI 可以独立操作的范围、需要人工可视化的环节，以及必须由人类判断接管的情形。

许多公司主要通过速度、留存率和成本节约来评估面向客户的 AI。为何这些指标可能会误导对技术是否真正提升客户体验的判断？

问题在于这些主要是效率指标。它们展示了系统的表现，却不一定反映客户的真实感受。以留存率为例：内部看高留存率似乎成功，但如果客户放弃、重复说明、得到不完整的答案，或在需要时无法联系到人工，这些不良结果就被掩盖了。留存率说明 AI 将客户留在系统中，而不是客户得到所需。成本节约亦是如此，可能以牺牲信任、满意度或解决质量为代价。

AI 系统会围绕你提供的信号进行优化，因此企业需要从一开始就在系统中设计衡量线索——将前端的速度、留存等指标与下游的问题解决情况以及结果是否在其他环节产生问题等信号关联起来。归根结底，面向客户的 AI 应该以是否准确、公平地解决终端用户的根本问题，并提供适当的人力支持为衡量标准。

AI 代理应使用哪些信号来识别不确定性、挫败感、紧迫性或超出其既定工作流的情形？ 

并不存在单一的魔法信号——关键是为系统提供足够的上下文和可观测性，使其能够识别自身的置信度、权限或信息已不足的情况。这可能表现为信息冲突、重复失败的尝试，或代理循环无果。也可能是客户语言的转变——明显的挫败感或紧迫感信号——或任务本身需要代理所不具备的信息、访问权限或授权。

系统还必须了解自身的边界。如果问题超出其设计的工作流、需要不可获取的数据，或跨越了预设的风险阈值，就应触发不同的处理路径。目标并非让代理处理所有可能的情形，而是让它知道何时停止、升级或请求帮助。

企业如何区分仅仅是复杂的交互与真正需要人类判断或同理心的交互？

分界线不在于任务的难度，而在于决策所涉及的判断、后果以及人类情境的多少。构建机器处理、人工验证的代理化运营，需要明确哪些环节的人类价值是不可替代的。

当目标明确、数据可靠、流程清晰且结果可衡量时，AI 能处理极其复杂的任务。仅凭复杂性并不一定需要人工，只要系统了解其可操作的边界。当客户意图不明确、情境需要酌情处理、存在多种合理结果，或决策涉及重大财务、法律、医疗或声誉后果时，就需要引入人工。有些交互还需要安抚、解释、谈判或同理心——不仅仅是给出答案。此时的人类参与与技术准确性同等重要。架构应体现这种区分。这些干预点应在工作流设计之初就嵌入，而不是在出现问题后再决定。

有效的升级流程应如何设计，以免客户在人工接管时需要重复说明或重新开始交互？

良好的升级不仅是转接客户，更是转移上下文，使接手者能够直接着手解决问题。当人工接管时，应该已经拥有对话历史、客户身份与资料，以及 AI 已尝试的内容——足以避免让客户重新开始。

这本质上是一个架构问题：如果 AI 仅存在于前端聊天界面，且与 CRM、ERP、知识库、工作流和编排层脱节，则实现无缝交接几乎不可能。

升级阈值是否应根据金融风险、客户脆弱性、监管要求或错误决策的潜在后果等因素进行调整？

升级规则应依据风险等级制定。错误后果越严重，越应提前让人工介入。

密码重置可以完全自动化，但有争议的金融交易则需更严格的控制。在理赔或催收中，常规状态更新可实现全自主，但当案件超过一定金额阈值或出现困难标记时必须进行人工检查。决策越受监管或后果越重大，监督力度就应越强。对脆弱客户可能需要更早的人工介入，而具有不可逆后果的决策则应设定更低的自主阈值。

这些阈值也不应交由单个代理即时解读。它们必须嵌入架构和编排层，明确规定代理的授权范围、哪些需额外验证以及哪些必须升级。

关键在于让自主性随风险而层级化——对低风险工作全速运行，对关键环节加强控制。Genpact 已将这种分层直接融入代理工作流的设计中——让常规案件自主处理，同时自动将超出预设风险或金额阈值的情况路由给人工，无需代理自行判断升级。对所有交互都赋予同等自主性的企业，很快会把便利转化为代价高昂的错误。

除了任务完成率，组织应使用哪些指标来评估自主客户服务系统是否为客户带来积极成果？

任务完成率虽有价值，但远远不够。问题不应是“代理是否完成了任务”，而应是“客户是否得到更好的结果”。这区别于仅承诺结果与对结果负责之间的差异。

这意味着要超越处理时间，关注响应准确率、首次联系解决率、重复联系次数、升级质量、客户满意度以及结果的公平性和一致性。同时也要超越单次交互进行衡量。代理在客户旅程的某一环节看似成功，却可能在后续产生问题。例如，案件快速关闭后数周仍可能引发再次呼叫，影响客户情绪并最终需要人工干预，因此值得追踪其在 30 天后是否仍已解决。

同样重要的是确认系统是否真正解决了客户的根本需求，而不是仅仅关闭交互并视为成功。这需要对整个工作流进行端到端可观测，而非仅依赖 AI 界面的指标。衡量客户和业务成果，而非活动量，才能揭示 AI 的真实投资回报。

企业如何防止 AI 代理仅为达成运营目标（如降低通话量或处理时间）而牺牲公平性、信任或客户根本需求？

AI 系统在实现所分配的目标方面异常出色。这既是优势也是隐患：如果只告诉代理系统速度是唯一目标，它就会为此牺牲其他所有方面。

企业需要为 AI 设定平衡的目标体系，既重视效率，又兼顾客户结果、风险、公平性、准确性和信任。这可以通过为可接受行为设定明确的防护栏、进行偏见和非预期结果的测试、保留人工覆盖机制、持续监控决策，并使输出可追溯、可审计来实现。治理不能等系统上线后再补充，而应从一开始就嵌入架构之中。

客户上下文可能分散在以往的对话、交易、渠道和企业系统中。企业如何在不产生新的隐私、安全或治理风险的前提下，为 AI 代理提供足够的上下文以作出更好决策？

解决碎片化上下文的办法并不是让 AI 代理获取所有信息，而是让它在恰当时机受治理地访问正确的信息。企业需要强大的数据与集成层，将代理连接到权威的记录系统，同时控制每个代理的可见和可操作范围。这包括基于角色和用途的访问、最小必要数据、血缘追踪、审计日志以及对敏感信息的保护。

更多上下文有助于提升 AI 决策，但前提是受到治理。否则，解决一个问题可能会引发更大的隐私或安全风险。若治理得当，系统会从以往的例外中学习，累积上下文，使未来交互更智能，同时不产生新风险。

随着面向客户的 AI 越来越自主，您预计 AI 代理与人类员工的关系将如何演变？组织现在需要构建哪些能力才能确保这种协作成功？

人类的角色将逐渐从执行流程的每一步转向指挥、监督和改进承担大量工作量的代理系统。人们将更多地用于设定目标、处理例外、行使判断、验证高风险决策、优化工作流、监控代理行为以及改进这些代理系统背后的架构和治理。这也改变了企业所需的技能。AI 素养固然重要，但批判性思维、领域专长、代理编排、可观测性以及在出现异常时质疑 AI 系统的能力同样关键。

这不仅是人力资源的挑战。组织需要相应的架构来支撑这种协作，将代理连接到正确的数据和系统，协调它们的协同工作，并让人员能够看到其操作情况。治理、人工覆盖和升级机制都必须从一开始就进行设计。

作为首席企业架构师，我认为我的职责是确保整个组织不仅了解如何使用 AI，还要知道何时信任、质疑并掌控它。如此，架构便成为实现负责任 AI 的入口，推动信任与真正的影响。

感谢这次精彩的访谈，想了解更多的读者请访问 Genpact。