WitnessAI 首席执行官兼联合创始人 Rick Caccia – 采访系列

Rick Caccia，WitnessAI 首席执行官兼联合创始人，在推出安全和合规产品方面拥有丰富的经验。他曾在 Palo Alto Networks (PANW ) 、Google (GOOGL ) 和 Symantec 担任产品和营销领导职务。Caccia 先前曾在 ArcSight 担任产品营销负责人，直到其首次公开募股和随后的公开公司运营，并且他是 Exabeam 的首位首席营销官。他拥有加州大学伯克利分校的多个学位。

WitnessAI 正在开发一个安全平台，专注于确保企业中 AI 的安全使用。在每一次重大技术转变中，例如 web、移动和云计算，新的安全挑战出现，创造了行业领导者的机会。AI 代表着这一演变的下一个前沿。

该公司旨在通过结合机器学习、网络安全和大规模云计算运营的专业知识，成为 AI 安全领域的领导者。其团队拥有丰富的 AI 开发、逆向工程和多云 Kubernetes 部署经验，解决了保护 AI 驱动技术的关键挑战。

是什么启发你联合创立了 WitnessAI，你试图解决 AI 治理和安全的哪些关键挑战？

当我们第一次开始创业时，我们认为安全团队会担心对其内部 AI 模型的攻击。然而，前 15 位我们交谈的 CISO 说，相反，企业内部广泛采用大型语言模型（LLM）还有一段时间，但迫切的问题是保护员工使用他人 AI 应用的安全。我们退一步，发现问题不是抵御可怕的网络攻击，而是让公司能够安全地使用 AI。虽然治理可能不如网络攻击那么性感，但它是安全和隐私团队真正需要的东西。他们需要了解员工使用第三方 AI 的情况，需要实施可接受的使用政策，并需要在不阻止数据使用的情况下保护数据。因此，我们构建了这些功能。

你在 Google Cloud、Palo Alto Networks 和其他网络安全公司的丰富经验如何影响你建立 WitnessAI 的方法？

我多年来与许多 CISO 交谈过。他们中最常说的一件事是，“我不想成为‘AI 的否定者’；我想帮助我们的员工使用它来变得更好。”作为长期与网络安全供应商合作的人，这是一个非常不同的陈述。它更类似于 dotcom 时代，当时 Web 是一种新兴的变革技术。我们在构建 WitnessAI 时，特别从帮助客户安全采用 AI 的产品功能开始；我们的信息是，这些功能就像魔术，当然每个人都想体验魔术。我认为网络安全公司太快地打出恐惧牌，我们想做得不同。

WitnessAI 与当前市场上的其他 AI 治理和安全平台有什么区别？

首先，市场上其他供应商主要关注安全方面，而不是治理方面。对我来说，治理就像汽车的制动器。如果你真的想快速到达某个地方，你需要有效的制动器来补充强大的引擎。没有人会开没有制动器的法拉利很快。在这种情况下，你的公司使用 AI 就像法拉利，而 WitnessAI 就是制动器和方向盘。

相比之下，我们的大多数竞争对手专注于对组织 AI 模型的理论攻击。这种攻击是真实的，但它与让企业获得对员工使用的 5,000 多个 AI 应用的可见性和控制力是不同的问题。对于我们来说，添加 AI 防火墙（我们已经有了）比添加有效的治理和风险管理对于 AI 防火墙供应商来说要容易得多。

WitnessAI 如何平衡 AI 创新与企业安全和合规的需求？

如我之前所写，我们认为 AI 应该像魔术一样——它可以帮助你做出惊人的事情。考虑到这一点，我们认为 AI 创新和安全是相互关联的。如果你的员工可以安全地使用 AI，他们会经常使用它，你就会领先。如果你采用典型的安全思维并锁定它，你的竞争对手不会这样做，他们就会领先。我们做的一切都是关于让 AI 的安全采用成为可能。正如一位客户告诉我的那样，“这种东西就像魔术，但大多数供应商把它当作黑魔法，令人害怕和恐惧。”在 WitnessAI，我们正在帮助使魔术成为可能。

您能否讨论公司关于 AI 治理的核心理念——您是否将 AI 安全视为一种赋能工具，而不是限制？

我们经常在活动中遇到 CISO，他们告诉我们，“您的竞争对手都在谈论 AI 的可怕之处，而您是唯一一个告诉我们如何实际使用它的供应商。”谷歌的桑达尔·皮查伊（Sundar Pichai）说过，“AI 可能比火更深刻”，这是一个有趣的比喻。火可能非常具有破坏力，如我们最近所见。但是受控的火可以制造钢铁，从而推动创新。有时在 WitnessAI，我们谈论创造创新，以便我们的客户能够安全地引导 AI 的“火”来创造钢铁的等价物。或者，如果你认为 AI 类似于魔术，那么我们的目标可能是给你一个魔杖来控制和指挥它。

企业在部署生成式 AI 时面临的最大风险是什么？WitnessAI 如何减轻这些风险？

首先是可见性。许多人会惊讶地发现，AI 应用宇宙不仅仅是 ChatGPT 和 DeepSeek，还有成千上万的 AI 应用在互联网上，企业会因员工使用这些应用而承担风险。因此，第一步是获得可见性：哪些 AI 应用我的员工正在使用，他们使用这些应用做什么，以及是否存在风险？

第二是控制。你的法律团队已经制定了一个全面性的 AI 使用政策，确保客户数据、公民数据、知识产权以及员工安全。如何实施这一政策？是在你的端点安全产品中？在你的防火墙中？在你的 VPN 中？在你的云中？如果它们都来自不同的供应商，那么你需要一种方法来定义和执行适用于 AI 模型、应用、云和安全产品的一致的使用政策。

第三是保护你自己的应用。在 2025 年，我们将看到企业内部更快地采用大型语言模型（LLM），然后更快地推出基于这些 LLM 的聊天应用。因此，企业需要确保不仅应用程序受到保护，而且应用程序不会说“愚蠢”的事情，例如推荐竞争对手。

我们解决了所有这些问题。我们提供对员工访问哪些应用、如何使用这些应用以及基于谁和他们试图做什么的政策的可见性。我们还提供了非常有效的工具来防止诸如 jailbreak 或不想要的行为等攻击。

WitnessAI 的 AI 可观察性功能如何帮助公司跟踪员工的 AI 使用情况并防止“影子 AI”风险？

WitnessAI 可以轻松连接到您的网络，并默默地构建您员工访问的每个 AI 应用的目录。我们告诉您这些应用位于哪里、它们的数据托管在哪里等，以便您了解这些应用的风险。您可以打开对话可见性，我们使用深度包检测来观察提示和响应。我们可以根据风险和意图对提示进行分类。意图可能是“编写代码”或“编写企业合同”。这很重要，因为我们然后允许您编写基于意图的策略控制。

AI 政策执行在确保企业 AI 合规方面扮演什么角色？WitnessAI 如何简化这一过程？

合规意味着确保您的公司遵守法规或政策，有两个部分需要确保合规。首先，您必须能够识别出问题的活动。例如，我需要知道员工正在以可能违反数据保护法的方式使用客户数据。我们使用我们的可观察性平台来实现这一点。第二部分是描述和执行针对该活动的策略。你不仅要知道客户数据正在泄露，还要阻止它泄露。因此，我们构建了一个独特的 AI 特定策略引擎 Witness/CONTROL，它允许您轻松构建基于身份和意图的策略来保护数据、防止有害或非法的响应等。例如，您可以构建一个策略，例如，“只有我们的法律部门可以使用 ChatGPT 编写企业合同，如果他们这样做，自动从中删除任何个人身份信息（PII）”，然后在 AI 响应中取消删除它，以便您获得有用的答案，同时保持数据安全。很容易说出来，也很容易使用 WitnessAI 实现。

WitnessAI 如何解决 LLM jailbreak 和提示注入攻击的担忧？

我们拥有一个非常出色的 AI 研究团队。早期，他们建立了一个系统来创建合成攻击数据，除了使用广泛可用的训练数据集。因此，我们的提示注入攻击防御在所有已知攻击中都超过 99% 有效，我们经常捕获到模型本身漏掉的攻击。

在实践中，大多数我们交谈的公司希望首先开始使用员工应用治理，然后稍后推出基于内部数据的 AI 客户应用。因此，他们使用 Witness 来保护人员，然后打开提示注入防火墙。一个系统，一个一致的方式来构建策略，易于扩展。

您对 WitnessAI 的长期目标是什么？在接下来的五年里，您如何看待 AI 治理的演变？

到目前为止，我们只讨论了人与聊天应用的模型。我们的下一个阶段将处理应用与应用，即代理 AI。我们已经在平台中设计了 API，以便与代理和人类一样高效地工作。除此之外，我们相信我们已经建立了一种新的方法来在 AI 时代获得网络级别的可见性和策略控制，我们将以此为目标来发展公司。

感谢这次精彩的采访，希望了解更多的读者可以访问 WitnessAI。