Claudionor Coelho，Zscaler 首席 AI 官 – 采访系列

Claudionor Coelho 是 Zscaler 的首席 AI 官，负责领导他的团队找到新的方法来保护数据、设备和用户，通过应用最先进的机器学习（ML）、深度学习和生成式 AI 技术。加入 Zscaler 之前，他曾担任 Advantest 的首席 AI 官和工程高级副总裁。之前，Coelho 曾是 Palo Alto Networks 的 AI 实验室副总裁和负责人。他还曾在 Google 担任过机器学习和深度学习角色。

Zscaler 致力于通过使组织能够实现更大的敏捷性、效率、恢复力和安全性来加速数字化转型。该公司的云原生零信任交换平台旨在通过安全地连接用户、设备和应用程序（无论其位置如何）来保护用户免受网络攻击和数据丢失的影响。Zscaler 为全球数千家客户提供服务，强调强大的安全性和无缝的连接性。

作为 Zscaler 的首席 AI 官，您如何塑造公司的 AI 战略，特别是在将 AI 与网络安全集成方面?

Zscaler 在 AI 网络安全方面取得了重大进展，这使其与竞争对手区别开来。Zscaler 的零信任平台利用 AI 来检测和阻止凭证盗窃和浏览器利用，从而防止钓鱼页面。来自每日 400 亿笔交易的威胁情报提供了实时分析，增强了对复杂网络攻击的防御。此外，我们与 NVIDIA 合作，提供基于生成式 AI 的安全和 IT 创新，例如 Zscaler ZDX Copilot，它简化了 IT 和网络操作，同时处理来自零信任交换平台的数据，以主动防御企业威胁。最后，通过收购 Avalor，我们扩展了零信任交换的功能，使用安全数据织物，拥有 150 多个预建集成，识别和预测关键漏洞，同时提高运营效率。

您创立了多家公司，包括 Kunumi，并在顶级公司担任过领导角色。您的创业背景如何影响您在 Zscaler 的企业 AI 领导风格和方法?

当我在 Jasper Design Automation 担任工程高级副总裁时，我们是一家电子设计自动化的初创公司，我们与数十亿美元的公司竞争，但由于创新、商业流程和敏捷性，我们实现了超过 70-80% 的市场份额。在我们的战略会议期间，我经常参考的书籍之一是 Kathleen M. Eisenhardt 教授的《竞争的边缘：结构化的混乱》。尽管这本书是 1998 年的，但它仍然适用于我们今天看到的生成式 AI。

以前，从未有过一种改变世界的技术发展如此之快。摩托罗拉工程师马丁·库珀于 1973 年进行了第一次蜂窝电话通话，但直到 10 年后才开通了第一个商用网络，直到 24 年后才发布了改变我们与计算机交互方式的 iPhone。

ChatGPT 于 2022 年 11 月发布。第二年，我们在世界经济论坛赞助的研讨会上讨论了人工通用智能（AGI）的到来。当时，只有少数人认识到我们可以使用代理来创建许多智能系统，方法是用工具填补大型语言模型（LLM）的空白——甚至在 AGI 之前。2024 年，讨论转向了 AI 代理，到年底，我们开始看到几种智能 AI 代理（如 ZDX Copilot 或博客平台 Kiroku）.

这种速度只能在初创环境中看到，这给大型组织带来了巨大的压力，因为它们正在努力变得足够敏捷，以适应具有前所未有速度的技术。

考虑到您在巴西和美国领导公司的经验，AI 和网络安全采用的两个市场之间有什么关键差异?

讨论初创公司是说明两个市场之间的相似性和差异的好方法，因为初创公司通常会在大型企业之前看到激进的创新。巴西初创公司的常见策略是复制成功的早期美国初创公司，因为美国初创公司通常首先关注内部市场（尽管这种情况正在改变）。然而，美国传统上拥有更稳定的资本体系，使得创办公司变得更容易。

我于 2014 年创立了 Kunumi，这是巴西的第一家深度学习公司。今年早些时候，它被 Bradesco 银行收购。一般来说，巴西的公司不知道如何采用生成式 AI，您将会看到很多错误——这在美国也是如此。我一生中建立了四个 Copilot，第一个是在 2016 年，当时我在 Synopsys。它是一个可以扫描大型仿真机的编译和执行日志的代理，搜索与用户问题相关的信息，支持多语言。那个时候，还没有变换器，没有大型语言模型，甚至翻译也与今天非常不同。

2020 年，我是 Google 的研究员，专注于深度学习模型压缩和量化，使用我创建的技术与 CERN 合作，搜索亚原子粒子。当我认为我们正在进行一场数据战争时，很明显网络安全是一个全球性的问题，不仅仅局限于一个国家或另一个国家。就在那时，我决定转向网络安全领域。

几个月前，我与一位外国政府官员交谈，他说网络安全是美国的问题，他的机构没有什么可担心的——但几周后，他的组织就遭到了网络攻击。

最后，比较巴西和美国的勒索软件攻击，估计的勒索软件费用大致相同。

巴西和美国的 AI 和网络安全监管环境有何不同，这如何影响这些地区的创新?

由于生成式 AI 正在快速发展，政府认识到需要保护某些东西，但往往不清楚他们试图保护什么。我们需要法规，但我们也需要对监管环境进行非情绪化的分析，以确定如何更好地保护当地公民。

话虽如此，当 AI 根据代表原因或特征的精确数字输入做出决定时，分析往往是不完整的，会产生有缺陷的现实结果。例如，如果 AI 算法根据模糊的标准如“概率”和因素如工资或种族做出贷款决定，很容易出现一个人会因其中一个因素的净效应而被拒绝贷款的情况。生成式 AI 使问题变得更糟，因为大型语言模型无法带来外部数据来进行推理假设。确保我们有法规，不允许有缺陷的系统做出决定（尤其是没有深度监督），因为它们肯定会犯错误至关重要。

另一方面，我对特斯拉汽车的完全自动驾驶能力非常满意，它们已经被证明比人类驾驶员更安全，驾驶里程更长，才会发生事故。是的，它们会犯错误，但即使在有副驾驶的飞机上，飞行员也需要在紧急情况下控制飞机。

关于网络安全，美国有多个组织（例如 JCDC.AI、NIST、CISA 等）讨论了解决 AI 和网络安全的必要性。当然，在快速发展的市场或技术中，您需要不断适应变化，当它们发展非常快时，您需要在混乱的边缘运作。

Zscaler 的零信任交换是其安全模型的关键部分。AI 如何增强这一平台，您在这一领域看到哪些最令人兴奋的发展?

Zscaler 的零信任架构帮助组织为 AI 部署创建更安全的环境，但该平台还以多种方式利用 AI，首先是 ZDX Copilot，它提供基于生成式 AI 的安全创新。与 NVIDIA 合作开发的该代理利用生成式 AI 来主动防御企业威胁，并简化 IT 和网络操作。Zscaler 还通过将 Avalor 的安全数据织物添加到 Zscaler 零信任交换中增强了其预测性漏洞识别，拥有 150 多个预建集成，识别和预测关键漏洞，同时提高运营效率。最后，AI 位于 Zscaler 零信任平台的核心，检测和阻止凭证盗窃和浏览器利用，从而防止钓鱼页面。来自每日 400 亿笔交易的威胁情报提供了实时分析，增强了对复杂网络攻击的防御。

您如何看待 AI 演变，以应对日益复杂的网络安全风险，特别是在物联网和运营技术设备领域?

威胁格局已经明确地随着 AI 基础的网络攻击而演变，因此组织可能会用 AI 来对抗 AI。主要的演变将是用额外的数据源来增强 AI 解决方案。

随着网络攻击的增加，我们需要使用更多的自动化和 AI 来检测和应对网络风险。值得注意的是，AI 和生成式 AI 正在被用来创建新的攻击面，而且由于此原因，我们需要通过关联比以前更多的信号来提高我们的水平。

在物联网和运营技术设备方面，它们对组织构成重大风险，因为许多物联网设备不使用最新的软件堆栈——尽管您可以轻松购买 Wi-Fi 开关、互联网连接电视、洗碗机、烤箱等。多年来，我们已经看到许多文章，展示了我们在物联网/运营技术方面面临的漏洞，例如 Target 和 其他文章。

我们需要不断的意识和提高网络安全防御，通过分析所有类型的数据和信号来检测异常和潜在威胁。为了赢得这场游戏，我们需要使用大量数据实时训练的最先进的 AI 模型。生成式 AI 在使公司能够分析和总结结果以供用户和安全操作员使用方面发挥着重要作用。

作为世界经济论坛 AI 和网络安全工作组的成员，全球关于 AI 道德和网络安全的讨论如何影响您在 Zscaler 的方法?

由于技术正在快速发展，政府和组织需要有基础信息，我认为这是世界经济论坛的作用。AI 和网络安全单独就需要足够的关注，但当您将这两者合并时，它几乎是一个新的领域。例如，Gartner 今年显示，生成式 AI 大大增加了攻击面，从输入和输出的提示注入到应用程序代码攻击、模型攻击，甚至插件攻击。

其中一些攻击是针对像 ChatGPT 这样的大型语言模型的，但如果您考虑到我们正在从大型语言模型转向 AI 代理和多代理系统，您需要考虑更多信息。例如，在大型语言模型中，您可能关心提示注入、潜伏行为（根据特殊关键字触发大型语言模型以不同方式响应）或专有信息泄露。当讨论 AI 代理时，我们需要考虑对工具和数据源的攻击——甚至假设 SQL 注入和操作系统命令注入可能再次成为可能。

此外，如果我们添加多代理系统，其中代理可能位于不同的位置，我们必须想象这意味着一个完全不同的使用协议进行通信的网络。人们一直在用成千上万的代理进行实验——就像一个计算机网络一样。

最后，我们需要让我们的工作人员为使用生成式 AI 做好准备，提供工具和环境，让他们能够在这个新世界中工作。

您一直是多样性和包容性的坚定倡导者，特别是作为 Zscaler 的拉丁裔和西班牙裔员工资源团体 Sabor 的执行赞助商。您的文化背景如何影响您的领导风格和对 AI 开发的方法?

作为一位自豪的拉丁裔出生和成长于巴西的人，我热衷于支持和赋予 Zscaler 的拉丁裔和西班牙裔社区权力。我感到自豪，因为我能够通过网络安全为更好的世界做出贡献，在一个日益复杂的世界中，我们帮助保护社会。我的价值观帮助我走到今天，我为我的出身感到极为自豪。

我的建议是永远不要忘记你的根源和你所做的事情。永远为使你独特的东西感到自豪，但也要认识到多样性是至关重要的。我每天 24 小时都和自己在一起。如果我只雇用与我相似、同意我的人，我不会增加我的知识。雇用来自不同地点和背景的人帮助我们更好地了解全球客户的特定需求。

最后，您最看好 AI 在网络安全领域的未来发展是什么，Zscaler 将在这一领域扮演什么角色?

AI 不会改变有效的网络防御的基本原则——它凸显了这些原则的重要性。我们预计会看到透明度、强大的安全实践和持续监控在整个行业中普遍存在。组织必须采取全面方法来实现安全，实施高级措施来检测和应对威胁。这包括培养安全意识文化、定期进行安全审计，并与利益相关者合作开发有效的安全策略。通过这样做，组织可以降低漏洞风险并保护其敏感信息。

Zscaler 致力于保护用户隐私，使用最先进的技术来匿名化数据，并确保我们将其排除在我们的大型语言模型之外，防止识别个别用户或组织。虽然我们可能会探索对大型语言模型进行微调，但我们对用户数据的严格数据隐私措施将继续优先考虑，以确保不会损害任何用户数据。我们的目标是利用 AI 的力量来提高安全性，而不会侵犯客户隐私。

感谢这次精彩的采访，希望读者能够通过访问 Zscaler 来了解更多信息。