Exabeam 首席 AI 和产品官 Steve Wilson – 采访系列

Steve Wilson 是 Exabeam 的首席 AI 和产品官，他的团队将最先进的 AI 技术应用于解决现实世界的网络安全挑战。他创立并共同主持了 OWASP Gen AI 安全项目，该项目是行业标准 OWASP Top 10 for Large Language Model Security 列表的背后组织。

他的获奖书籍《大型语言模型安全开发者手册》(O’Reilly Media) 被 Cyber Defense Magazine 评为最佳尖端网络安全书籍。

Exabeam 是智能和自动化领域的领导者，提供安全运营解决方案给全球最聪明的公司。通过将 AI 的规模和力量与我们行业领先的行为分析和自动化相结合，组织可以更全面地了解安全事件，发现其他工具可能忽略的异常，并实现更快、更准确和更可重复的响应。Exabeam 赋予全球安全团队打击网络威胁、减轻风险和简化运营的能力。

您新的职位是 Exabeam 的首席 AI 和产品官。这如何反映 AI 在网络安全中的不断增长的重要性？

网络安全是最早真正拥抱机器学习的领域之一——在 Exabeam，我们已经使用机器学习作为检测引擎的核心超过十年，以识别人类可能会错过的异常行为。随着新型 AI 技术的出现，例如智能代理，AI 已经从重要变成至关重要的。

我在 Exabeam 的首席 AI 和产品官的联合角色正是反映了这种演变。在一个深深致力于将 AI 嵌入其产品并将 AI 作为其战略核心的公司中，统一 AI 战略和产品战略是有意义的。这确保我们在战略上保持一致，以向最需要的安全分析师和运营团队提供变革性的 AI 驱动解决方案。

Exabeam 正在安全运营中开创“代理 AI”。您能解释一下这在实践中意味着什么以及它如何与传统的 AI 方法有所不同？

代理 AI 代表了与传统 AI 方法的有意义的演变。它是面向行动的——主动启动流程、分析信息并在分析师甚至要求之前提供见解。除了简单的数据分析，代理 AI 充当顾问，提供整个安全运营中心的战略建议，引导用户朝着最简单的胜利和提供逐步指导以提高他们的安全姿势。另外，代理以专门的包形式运行，而不是一个笨重的聊天机器人，每个代理都针对特定的个性和数据集，并无缝地集成到分析师、工程师和经理的工作流中，以提供有针对性和影响力的帮助。

随着 Exabeam Nova 将多个 AI 代理整合到安全运营工作流中，安全分析师的未来会是什么样的？它会演变、缩小还是变得更加专业？

安全分析师的角色肯定会演变。分析师、安全工程师和安全运营中心经理都被数据、警报和案件淹没。真正的未来转变不仅仅是关于在平凡任务上节省时间——虽然代理确实可以帮助——而是关于将每个人的角色提升到团队领导者的地位。分析师仍然需要强大的技术技能，但现在他们将领导一队代理，能够加速他们的任务、放大他们的决策并真正改善他们的安全姿势。这一转变使分析师能够成为战略协调者，而不是战术响应者。

最近的数据显示，高管和分析师之间关于 AI 生产力影响的看法存在脱节。您认为这种看法差距存在的原因是什么，以及如何解决它？

最近的数据 显示了明显的脱节：71% 的高管认为 AI 大大提高了生产力，但只有 22% 的一线分析师同意。我们在 Exabeam 看到了这种差距的增长，伴随着最近在网络安全领域关于 AI 的承诺的狂热。现在创造令人印象深刻的 AI 演示比以往任何时候都容易，供应商很快声称他们已经解决了每一个安全运营中心的挑战。虽然这些演示最初令高管们印象深刻，但许多演示在分析师手中却未能兑现其承诺。为了弥合这一看法差距，高管必须优先考虑真正赋予分析师权力的 AI 工具，而不是仅仅在演示中令人印象深刻的工具。当 AI真正提高分析师的有效性时，信任和真正的生产力提高将会跟随。

AI 正在加速威胁检测和响应，但您如何在高风险的网络安全事件中保持自动化和人类判断之间的平衡？

AI 能力正在迅速进步，但今天的基础“语言模型”是智能代理的基础，它们最初是为任务如语言翻译而设计的——而不是为细致入微的决策、博弈论或处理复杂的人类因素而设计的。这使得人类判断在网络安全中比以往任何时候都更加重要。分析师的角色并没有被 AI 减少；它被提升了。分析师现在是团队领导者，利用他们的经验和洞察力来指导和指挥多个代理，确保决策仍然受到背景和细微差别的影响。最终，平衡自动化和人类判断是关于创造一种共生关系，其中 AI 放大人类的专业知识，而不是取代它。

当 AI 成为核心设计原则而不是附加功能时，您的产品策略会如何演变？

在 Exabeam，我们的产品策略从根本上受到 AI 作为核心设计原则的影响，而不是表面上的附加功能。我们从头开始构建 Exabeam，以支持机器学习——从日志摄取、解析、增强和归一化到填充一个强大的通用信息模型，该模型专门针对机器学习系统进行了优化。高质量、结构化的数据不仅对 AI 系统至关重要——它是他们的生命线。今天，我们直接将智能代理嵌入到关键工作流中，避免笨重的聊天机器人。相反，我们精确地针对关键的用例，提供给用户切实的、有形的好处。

随着 Exabeam Nova 将多个 AI 代理整合到安全运营工作流中，您认为完全自治的安全运营的关键里程碑是什么？

完全自治安全运营的理念很有趣，但还为时过早。完全自治的代理在任何领域都还不够高效和安全。虽然 AI 的决策能力正在改进，但它还没有达到人类的可靠性水平，也不会在短期内达到。我们在 Exabeam 的方法不是追求完全自治，而是我们的团队已经确定为过度代理化的核心漏洞。给代理过多的自主权而无法可靠地测试和验证会使运营处于危险之中。相反，我们的目标是拥有能够在安全运营中心的专家监督下工作的智能代理团队。人类监督和有针对性的代理帮助的结合是现实的和有影响力的前进道路。

您在将 GenAI 和机器学习整合到网络安全所需的规模时面临的最大挑战是什么？

将 GenAI 和机器学习整合到网络安全所需的规模时面临的最大挑战之一是平衡速度和精度。GenAI alone 无法取代我们高性能的机器学习引擎处理的海量数据的规模——持续处理数百万字节的数据。即使是最先进的 AI 代理也具有远远不够的“上下文窗口”。相反，我们的方法是使用机器学习来提取大量数据中的可执行见解，然后我们的智能代理将这些见解转化为有效的行动。

您共同创立了 OWASP Top 10 for LLM Applications。是什么启发了这一举动，您又如何看待它对 AI 安全最佳实践的影响？

当我在 2023 年初启动 OWASP Top 10 for LLM Applications 时，关于 LLM 和 GenAI 安全的结构化信息很少，但兴趣非常高。仅仅几天内，就有超过 200 名志愿者加入了这一倡议，带来了多样化的意见和专业知识来塑造原始列表。从那时起，它已经被阅读了超过 10 万次，并成为国际行业标准的基础。今天，这一努力已经扩展到 OWASP Gen AI 安全项目，涵盖了 AI 红队、保护代理系统和处理 Gen AI 在网络安全中的攻击性用途等领域。我们的团队最近超过了 10,000 名成员，并继续在全球范围内推进 AI 安全实践。

您的书《大型语言模型安全开发者手册》获得了顶级奖项。您认为每个 AI 开发人员在构建安全应用程序时应该理解的最重要的收获或原则是什么？

我书《大型语言模型安全开发者手册》的最重要的收获是简单的：“能力越大，责任越大”。虽然理解传统的安全概念仍然至关重要，但开发人员现在面临着大型语言模型所特有的全新的挑战。这种强大的技术不是免费的通行证；它需要积极主动、深思熟虑的安全实践。开发人员必须扩展他们的视野，认识和解决这些新的漏洞，从一开始就将安全性嵌入到他们的 AI 应用程序的整个生命周期中。

您如何看待网络安全工作力量在未来 5 年内随着代理 AI变得更加主流而演变？

我们目前处于 AI 武器竞赛中。对手正在积极部署 AI 来推进他们的恶意目标，这使得网络安全专业人员比以往任何时候都更加重要。未来 5 年不会削弱网络安全工作力量；它会提升它。专业人员必须接受 AI，将其融入他们的团队和工作流中。安全角色将转变为战略指挥——不再是个人努力和更多地协调由 AI 驱动的代理的有效响应。这种转变使网络安全专业人员能够在与不断演变的威胁的战斗中自信地和果断地领导。

感谢这次精彩的采访，希望了解更多的读者可以访问 Exabeam。