访谈
马克·尼科尔森，德勤美国网络现代化领导者 – 采访系列：回归对话
将 Unite.AI 添加到您在 Google 上的首选来源
马克·尼科尔森，德勤美国网络现代化领导者，是德勤的合伙人，拥有二十多年的网络安全、人工智能和企业风险交叉领域经验。他领导网络人工智能计划和德勤网络实践的商业战略，帮助大型组织现代化其安全框架，并将网络投资与不断变化的风险格局保持一致。在加入德勤之前，他联合创立并担任Vigilant公司的首席运营官，Vigilant公司是一家专注于威胁情报和恶意事件监控的信息安全咨询公司。他的早期职业生涯是在多家科技公司担任销售和商业发展职位，为他提供了网络安全的技术和商业方面的坚实基础。
德勤是世界上最大的专业服务公司之一，提供审计、咨询、税务和咨询服务给各个行业的组织。其网络安全实践专注于帮助企业在人工智能等技术的推动下实现数字化转型的同时，应对日益复杂的威胁环境。该公司提供的服务包括网络安全战略、恢复力、风险管理和企业安全，网络安全既是保护功能也是创新和增长的战略驱动力。
这次采访是在2025年发表的之前的采访之后进行的。
您从事网络安全工作已经很长时间了，包括联合创立Vigilant公司和帮助将早期的安全信息和事件管理（SIEM）和威胁情报能力推向市场。从早期的监控系统到今天的基于人工智能的网络防御平台，组织检测和响应威胁的方式发生了怎样的变化？
当我们第一次开始构建监控平台时，核心挑战是将数据集中在一个地方并对其进行分析。我记得分析师每天早上都会打印出防火墙日志并手动审查它们以尝试找到异常。即使SIEM成熟了，也存在规模问题。人类的速度无法与检测到的事件数量相匹配。尽管使用了自动化，网络防御者仍然面临着数据关联和分析问题，不断地编写新的规则，通常是对监控失败的响应。
其中一个希望是人工智能能够从根本上改变这种动态。除了部署代理能力来自动化一级安全操作外，人工智能还承诺通过利用动态机器调优监控算法来帮助将检测和响应从“事后”转变为“正在发生”。在某些情况下，网络组织也将变得更加舒适，让人工智能启动补救措施。
但是，困难的部分并没有消失，它转移了。随着系统变得更加自治和复杂，信任和可观察性成为一个战场：系统正在做什么，它为什么这样做，我们如何知道它没有被操纵？人工智能带来的机会是巨大的，但它也提高了风险，当环境以机器速度运行时。
您指出，人工智能使对手能够自动化侦察、生成漏洞利用代码和加速攻击周期。从实际角度来看，人工智能在多大程度上压缩了漏洞发现和利用之间的时间？
历史上，漏洞发现和利用之间通常存在一个窗口。虽然存在紧迫感，但通常来说，除非您受到零日攻击，否则在攻击者能够大规模部署漏洞利用之前，仍然有时间来理解威胁、修补和缓解。人工智能几乎消除了这个窗口。
对手可以自动化侦察，持续扫描暴露并使用人工智能启用的工具加速攻击周期的某些部分。在许多情况下，过去需要几周的时间现在可以压缩到几个小时，在高度自动化的场景中，它可以比大多数安全程序能够处理的速度更快。
结论很简单：安全团队需要在防御一方拥有自动化和人工智能，并配备强大的控制，才能跟上节奏。
安全团队越来越多地从“人在环节”转变为“人在循环”监督模式。这种转变在现代安全运营中心（SOC）内部看起来如何操作，组织应该如何重新思考分析师的角色，因为人工智能承担了更多的自治任务？
在传统的SOC中，分析师处于每个决策点的中心。警报到来，分析师对其进行分类、调查并确定采取的行动。这种方法在警报和攻击的数量可控时是有效的。但在今天的环境中，活动的规模简单地太大，人类无法作为每个决策的门槛。
转变为人在循环意味着人工智能系统可以执行分析师以前处理的许多例行任务，例如分类警报、收集上下文、关联数据和执行某些补救措施。人类的角色变成了监督和验证，而不是手动执行。
从操作角度来看，这种转变将分析师的时间从“警报研磨”转移到更高价值的工作中，例如威胁狩猎、检测工程、对手模拟和改进防御架构。人类仍然至关重要，但他们的角色演变为监督、判断和战略，而不是作为安全数据的主要处理者。
从您的角度来看，为什么“安全人工智能设计”概念需要扩展到身份系统、权限架构和编排层之外？
关于安全人工智能的讨论往往集中在模型本身，例如保护训练数据、防止模型中毒或防御提示注入攻击。这些都是真正的问题，但它们只是风险的一部分。
在实践中，人工智能系统作为更大数字生态系统的一部分运行。它们访问数据、与API交互、触发工作流程，并通过代理以一定的自治权操作。随着这种情况的发生，身份和权限成为控制平面。人工智能代理在企业内部有效地是新的数字身份。如果这些身份没有得到适当的管理，它们可能会引入重大风险。
因此，安全人工智能设计需要扩展到身份管理、访问控制、编排层和监控系统，以跟踪这些代理正在执行的操作。组织需要像对待人类用户一样对待人工智能代理，具有明确的权限、审计和监督，否则攻击面将迅速扩大。
许多企业正在将人工智能工具叠加在为人类速度设计的遗留安全工作流程上。组织需要做出哪些最大的架构更改，以真正利用人工智能在网络防御中的优势？
一种常见的模式是将人工智能连接到为人类驱动的操作设计的遗留流程和工作流程上。它不是一个坏的第一步，尤其是当计算机视觉成为现实时。例如，德勤创建了一个可以被训练来在不抛弃现有专用软件解决方案的情况下替换身份管理和管理流程中的人类的代理，这可以带来显著的成本节约。
然而，未来收益在于，企业将重新思考安全工作流程，从端到端现代化数据基础，以便安全工具可以可靠地访问高质量、结构良好的遥测数据；构建编排，以便检测、响应和身份功能可以作为一个协调的系统运行，而不是断开的工具。
身份仍然是最关键的控制之一。随着更多自动化和人工智能代理的引入，非人类身份的数量会显著增加。有效地管理这些身份对于维持控制至关重要。
最终，原生人工智能安全是一个更好的数据、更好的编排和治理的混合体，这些治理同时考虑了人类和机器行为者。
当人工智能系统变得更加自治时，攻击面扩展到代理编排、API链和自动化决策管道等领域。您最担心哪一个新出现的攻击面？
如果我必须选择一个最需要立即关注的领域，那就是代理驱动系统内部的身份和数据访问权限。
随着组织引入更多代理人工智能，它们正在创建一个日益增长的自治行为者群体，这些行为者在企业内部运行。这些代理可能会访问数据、API和工作流程，这些对于攻击者来说非常有吸引力，如果权限没有得到严格的设计、监控和审计，这将是一个问题。将每个代理视为一个新员工至关重要：命名它、定义它、监控它，并在需要时快速断开连接。
API链和自动化决策管道也引入了风险，但身份治理往往是基础控制。如果您无法清楚地回答代理是谁、可以访问什么以及做了什么，那么您实际上并不控制它。
从董事会的角度来看，高管和董事目前如何看待人工智能驱动的网络风险，您在哪里看到技术现实和董事会层面的理解之间存在最大的差距？
董事会越来越意识到，虽然人工智能带来了巨大的机会，但也带来了重大风险。大多数董事理解人工智能将塑造业务转型，并开始询问关于治理、安全和恢复力的问题。
差距通常出现在速度和复杂性方面。许多董事会对话仍然默认使用传统的网络安全框架——这些框架仍然很重要——但它们并不总是反映出人工智能驱动的威胁可以如何快速演变和扩大规模。
另一个脱节是“我们的AI安全吗？”听起来像是一个问题，但答案存在于数据治理、模型完整性、身份管理和多个系统的编排之中。正在弥合差距的董事会正在推动基于控制的报告，使这些移动部件可见和可测试，并投资时间来建立董事会流利度，以便监督能够跟上技术的步伐。
人工智能越来越被用于战场的两侧。我们是否正在进入一个永久的人工智能对抗人工智能的网络安全军备竞赛，如果是这样，防御者相比攻击者有什么优势？
我们显然处于一个时代，人工智能被攻击者和防御者同时使用。对手已经将人工智能应用于加速侦察、识别漏洞和自动化攻击生命周期的某些部分。但防御者仍然拥有真正的优势，如果他们选择使用这些优势。
防御者对自己的环境有可见性，拥有内部遥测数据，并且可以构建分层架构，攻击者必须穿透。人工智能可以帮助防御者分析大量数据，包括网络、端点和身份，给予他们潜在的检测异常行为的能力，比攻击者早得多。
但要注意，采用是关键。如果防御者坚持手动工作流程，而攻击者自动化，非对称性将变得残酷。军备竞赛是真实的，获胜者将是那些部署人工智能并配备强大治理的防御者，而不是那些仅仅试验它的防御者。
在为大型企业提供咨询工作中，您看到组织在尝试将人工智能集成到其网络安全战略时最常犯的错误是什么？
我们看到的最常见的错误之一是将人工智能视为一个独立的工具，而不是一个架构转变。团队运行孤立的实验，而没有升级数据基础、治理模型或操作流程，以维持影响力，从而导致结果达到一个平稳期。
另一个错误是部署人工智能能力而没有完全考虑到新风险：新的身份、新的数据流和自动化决策路径，这些都扩大了攻击面。如果这些没有正确的控制措施，人工智能可能会增加脆弱性而不是恢复力。
最后，许多组织低估了员工参与的重要性。每天运行安全操作的从业者知道哪里有摩擦，什么是“好的”样子。最强大的转型将这些团队纳入其中，使技术放大他们的判断力，而不是破坏它。
展望未来三到五年，基于人工智能的安全运营中心将与今天的SOC环境有何不同？
好吧，它可能会有很大的不同，在很多方面我无法预测。未来SOC很可能会作为一个混合的数字和人类工作场所运行。人工智能系统将处理大量的数据处理、关联和初始响应活动。代理系统将帮助自动化漏洞管理、身份管理、事件响应和持续控制监控的工作流程。
人类分析师仍然至关重要，但重心转移：监督人工智能系统，验证检测用例（而不是编写它们），调查复杂威胁并改进防御架构。目标不是去除人类，而是提升他们的角色。与其花时间分类警报和手动组装数据，分析师将专注于网络安全的战略方面。问题将是，“我们将如何训练下一代安全专业人员，当一级和二级都完全自动化时？”也许答案在于人工智能可以帮助我们开发的模拟和训练技术的显著改进。
成功地建立一个成功的混合工作场所，结合人类专业知识和人工智能驱动的自动化的组织，可能会在现代威胁环境中运行所需的速度方面处于最好的位置。
