Exabeam 首席人工智能和产品官 Steve Wilson – 访谈系列

Steve Wilson 是 Exabeam 的首席人工智能和产品官，他的团队运用尖端人工智能技术应对现实世界的网络安全挑战。他创立并联合主持了 OWASP Gen AI 安全项目，该项目是行业标准 OWASP 大型语言模型十大安全榜单的制定者。

他的获奖著作《大型语言模型安全性的开发人员手册》（O'Reilly Media），被《网络防御杂志》评选为最佳前沿网络安全书籍。

Exabeam 是智能和自动化领域的领导者，为全球最智能的企业提供安全运营支持。通过将人工智能的规模和强大功能与我们行业领先的行为分析和自动化优势相结合，企业能够更全面地了解安全事件，发现其他工具遗漏的异常，并实现更快、更准确、更可重复的响应。Exabeam 赋能全球安全团队，帮助他们抵御网络威胁、降低风险并简化运营。

您的新职位是 Exabeam 的首席人工智能和产品官。这如何反映出人工智能在网络安全领域日益增长的重要性？

网络安全是首批真正拥抱机器学习的领域之一。在 Exabeam，十多年来我们一直以机器学习作为检测引擎的核心，用于识别人类可能遗漏的异常行为。随着智能代理等新型人工智能技术的出现，人工智能已从重要地位发展成为绝对核心的地位。

我在 Exabeam 担任首席人工智能和产品官的双重角色恰恰体现了这种变革。在一家致力于将人工智能融入其产品的公司，以及在网络安全这样一个人工智能日益重要的行业中，将人工智能战略和产品战略统一到一个职位下是明智之举。这种整合确保我们在战略上保持一致，从而为最依赖我们的安全分析师和运营团队提供变革性的人工智能驱动解决方案。

Exabeam 在安全运营领域率先推出了“代理型人工智能”。您能解释一下这在实践中意味着什么，以及它与传统人工智能方法有何区别吗？

Agentic AI 代表了传统 AI 方法的重大变革。它以行动为导向——主动启动流程、分析信息，并在分析师提出需求之前提供洞察。除了简单的数据分析之外，Agentic AI 还可以充当顾问，为整个 SOC 提供战略建议，引导用户轻松取胜，并提供逐步指导以改善其安全状况。此外，Agentic AI 的运作方式类似于专业团队，而非笨重的聊天机器人。每个代理都拥有特定的个性和数据集，可以无缝集成到分析师、工程师和管理人员的工作流程中，从而提供有针对性且有效的帮助。

随着 Exabeam Nova 在 SOC 工作流程中集成多个 AI 代理，安全分析师角色的未来将会如何？它会不断发展、萎缩，还是变得更加专业化？

安全分析师的角色无疑正在发生演变。分析师、安全工程师和SOC经理都被数据、警报和案例压得喘不过气来。未来真正的转变不仅仅是节省处理日常任务的时间（尽管客服人员在这方面确实有所帮助），而是要将每个人的角色提升到团队领导者的水平。分析师仍然需要强大的技术技能，但现在他们将领导一支客服人员团队，随时准备加速任务执行、优化决策，并真正推动安全态势的改善。这种转变将分析师定位为战略协调者，而非战术响应者。

最近的数据显示，高管和分析师对人工智能对生产力的影响存在分歧。您认为这种认知差距存在的原因是什么？又该如何弥补？

最新数据 显示出明显的脱节：71% 的高管认为 AI 可以显著提高生产力，但只有 22% 的一线分析师（日常用户）同意这一观点。在 Exabeam，我们看到这种差距随着近期网络安全领域对 AI 承诺的狂热而不断扩大。制作炫目的 AI 演示从未如此简单，供应商们也很快声称他们已经解决了所有 SOC 挑战。虽然这些演示最初让高管们眼花缭乱，但许多演示在关键的地方——在分析师手中——却显得不足。潜力是存在的，也存在一些真正的回报，但噪音太多，有意义的改进太少。为了弥合这种认知差距，高管必须优先考虑真正能够赋能分析师的 AI 工具，而不仅仅是在演示中给人留下深刻印象。当 AI 真正提高分析师的效率时，信任和真正的生产力提升就会随之而来。

人工智能正在加速威胁检测和响应，但在高风险的网络安全事件中，如何保持自动化和人类判断之间的平衡？

人工智能能力正在快速发展，但如今支撑智能代理的基础“语言模型”最初是为语言翻译等任务而设计的，而非用于细致入微的决策、博弈论或处理复杂的人为因素。这使得人类判断在网络安全中比以往任何时候都更加重要。分析师的角色并没有因为人工智能而减弱，反而得到了提升。分析师现在是团队领导，利用他们的经验和洞察力来指导和指挥多名代理，确保决策始终基于具体情况和细微差别。最终，平衡自动化与人类判断是为了建立一种共生关系，让人工智能能够增强人类的专业知识，而不是取代它。

当人工智能成为核心设计原则而不是附加组件时，您的产品策略将如何发展？

在 Exabeam，我们的产品战略从根本上以人工智能为核心设计原则，而非肤浅的附加功能。我们从零开始构建 Exabeam，以支持机器学习——从日志提取、解析、丰富到规范化——并构建一个强大的通用信息模型，该模型专门针对机器学习系统进行了优化。高质量的结构化数据不仅对人工智能系统至关重要，更是其生命线。如今，我们将智能代理直接嵌入到关键工作流程中，避免使用通用、笨重的聊天机器人。相反，我们精准瞄准那些能够为用户带来切实利益的关键用例。

你们的目标是通过 Exabeam Nova“从辅助走向自主”。实现完全自主的安全运营需要哪些关键里程碑？

完全自主的安全运营理念固然有趣，但为时过早。任何领域的完全自主代理都还不够高效和安全。虽然人工智能的决策能力正在提升，但它的可靠性尚未达到人类的水平，而且在一段时间内也难以达到。在 Exabeam，我们的方法并非追求完全自主，我在 OWASP 的团队将完全自主视为一个核心漏洞，即“过度代理”。赋予代理超出可靠测试和验证范围的自主权，会使运营面临风险。相反，我们的目标是组建一支由智能代理组成的团队，他们能力出众，但又受到精心指导，在 SOC 的人类专家监督下开展工作。这种将人类监督与代理有针对性地协助相结合的做法，才是切实可行的、行之有效的前进之路。

在实时网络安全所需的规模上整合 GenAI 和机器学习时，您面临的最大挑战是什么？

在网络安全领域，将 GenAI 与机器学习大规模集成的最大挑战之一是平衡速度和精度。单靠 GenAI 无法取代我们高速机器学习引擎所处理的海量数据——持续处理数 TB 的数据。即使是最先进的人工智能代理，其“上下文窗口”也远远不够。因此，我们的方案是利用机器学习将海量数据提炼成可操作的洞察，然后由我们的智能代理进行有效转化和操作。

您是 OWASP LLM 应用十大最佳实践的联合创始人。是什么启发了您？您如何看待它塑造 AI 安全最佳实践？

当我在10年初发布OWASP法学硕士（LLM）申请十大安全问题时，关于LLM和GenAI安全的结构化信息稀缺，但人们对此的兴趣却异常高涨。几天之内，超过2023名志愿者加入了这项倡议，贡献了不同的意见和专业知识，最终形成了最初的清单。自那时起，这份清单的阅读量已超过200万次，并已成为国际行业标准的基石。如今，这项工作已扩展为OWASP Gen AI安全项目，涵盖AI红队测试、代理系统安全以及应对Gen AI在网络安全中的攻击性用途等领域。我们小组的成员人数最近已超过100,000万，并将继续在全球范围内推进AI安全实践。

你的书，'LLM 安全开发者手册》一书获得了最高奖项。这本书中最重要的要点或原则是什么？每个人工智能开发人员在构建安全的应用程序时都应该理解这一点。

我的书《LLM 安全开发者手册》最重要的启示很简单：“能力越大，责任越大。” 虽然理解传统的安全概念仍然至关重要，但开发者现在面临着 LLM 独有的一系列全新挑战。这项强大的技术并非免费通行证，它需要积极主动、周到的安全实践。开发者必须拓展视野，从一开始就识别并解决这些新的漏洞，将安全性融入 AI 应用程序生命周期的每个步骤。

随着代理人工智能变得越来越主流，您如何看待未来 5 年网络安全人才队伍的发展？

我们正处于一场人工智能军备竞赛之中。对手正积极部署人工智能以实现其恶意目标，这使得网络安全专业人员比以往任何时候都更加重要。未来五年，网络安全人员的数量不仅不会减少，反而会提升。专业人员必须拥抱人工智能，将其融入到他们的团队和工作流程中。安全角色将转向战略指挥——不再依赖个人努力，而是更多地与一支由人工智能驱动的团队协作，制定有效的响应方案。这种转变将使网络安全专业人员能够在应对不断演变的威胁的战斗中果断而自信地发挥领导作用。

感谢您的精彩采访，想要了解更多信息的读者可以访问 Exabeam.