访谈
Mark Nicholson，德勤美国网络现代化负责人 – 专访系列：一次回归对话
Mark Nicholson 是德勤美国网络现代化负责人，作为德勤的合伙人，他在网络安全、人工智能和企业风险的交叉领域拥有超过二十年的经验。他领导着网络人工智能倡议以及德勤网络业务的商业战略，帮助大型组织现代化其安全框架，并使网络投资与不断演变的风险格局保持一致。在加入德勤之前，他共同创立了专注于威胁情报和恶意事件监控的信息安全咨询公司 Vigilant, Inc.，并担任其首席运营官。他早年在多家科技公司担任销售和业务开发职务，为他在网络安全的技术和商业方面奠定了坚实的基础。
德勤 是全球最大的专业服务公司之一，为几乎所有行业的组织提供审计、咨询、税务和咨询服务。其网络安全业务专注于帮助企业应对日益复杂的威胁环境，同时通过人工智能等技术推动数字化转型。该公司提供的服务涵盖网络战略、韧性、风险管理和企业安全，将网络安全定位为既是一种保护功能，也是创新与增长的战略推动者。
此次访谈承接了 2025年发布的一次先前访谈。
您自现代威胁监控的早期阶段就涉足网络安全领域，包括共同创立 Vigilant 并帮助将早期的安全信息和事件管理（SIEM）及威胁情报能力推向市场。从这些早期监控系统发展到当今由人工智能驱动的网络防御平台，这一演变如何改变了组织检测和应对威胁的方式？
当我们最初在 SIEM 早期构建监控平台时，核心挑战是将数据集中一处并理解其含义。我记得当时分析师每天早晨会打印出防火墙日志，然后手动审查以试图发现异常。即使随着 SIEM 的成熟，也存在规模问题。人类的速度无法匹配海量的检测事件。尽管使用了自动化，网络防御者仍然面临数据关联和分析问题，不断费力地制定新规则，这通常是对监控失败的反应。
其中一个希望是，人工智能将以一种根本性的方式改变这种动态。除了部署智能体能力来自动化一级安全运营外，人工智能有望通过利用监控算法的动态机器调优，帮助将检测和响应从“事后”推进到更接近“实时发生”。在某些情况下，网络组织也将逐渐适应让人工智能启动补救措施。
但困难的部分并未消失，而是发生了转移。随着系统变得更加自主和复杂，信任和可观测性成为一个战场：系统在做什么？为什么这样做？我们如何知道它没有被操纵？人工智能带来的机遇是巨大的，但当环境以机器速度运行时，风险也随之升高。
您曾指出，人工智能使对手能够自动化侦察、生成漏洞利用并加速攻击周期。实际上，人工智能在多大程度上压缩了漏洞发现与利用之间的时间？
从历史上看，漏洞发现与利用之间通常存在一个时间窗口。紧迫性固然存在，但一般来说，除非遭遇零日攻击，否则在攻击者能够大规模部署漏洞利用之前，通常有时间去了解威胁、打补丁和进行缓解。人工智能几乎消除了这个窗口。
对手可以自动化侦察，持续扫描暴露情况，并使用人工智能工具来加速漏洞利用开发和目标定位的某些环节。在许多情况下，过去需要数周时间的过程现在可以压缩到数小时，而在高度自动化的场景中，其速度可能超过大多数安全程序的设计处理能力。
结论很简单：安全团队需要在防御端配备自动化和人工智能，并辅以强有力的控制措施，才能跟上步伐。
安全团队正越来越多地从“人在回路中”转向“人在回路上”的监督模式。这种转变在现代安全运营中心（SOC）内部是如何运作的？随着人工智能承担更多自主任务，组织应如何重新思考分析师的角色？
在传统的 SOC 中，分析师处于每个决策点的中心。警报传入，分析师对其进行分类、调查，并决定应采取何种行动。当警报量和攻击速度尚可管理时，这种方法有效。但在当今环境中，活动的规模实在太大，人类无法充当每个决策的守门员。
转向“人在回路上”意味着人工智能系统可以执行分析师先前处理的许多常规任务，例如警报分类、收集上下文、关联数据以及执行某些补救措施。人类的角色转变为监督和验证，而非手动执行。
从运营角度看，这将分析师的时间从“警报处理”转移到更高价值的工作上，例如威胁狩猎、检测工程、对手模拟和改进防御架构。人类仍然至关重要，但他们的角色演变为监督、判断和战略制定，而不是作为安全数据的主要处理者。
我们听到很多关于“安全设计的人工智能”的讨论。从您的角度来看，为什么这个概念需要超越模型安全性，扩展到身份系统、权限架构和编排层？
许多关于安全人工智能的讨论都高度集中在模型本身，例如保护训练数据、防止模型中毒或防御提示注入攻击。这些都是真实存在的问题，但只是风险的一部分。
实际上，人工智能系统作为更大数字生态系统的一部分运行。它们访问数据、与 API 交互、触发工作流，并且越来越多地通过具有一定自主性的智能体进行操作。
当这种情况发生时，身份和权限就成为控制平面。人工智能智能体实际上是企业内部的新数字身份。如果这些身份没有得到适当治理，它们可能会引入重大风险。
因此，安全设计的人工智能需要扩展到身份治理、访问控制、编排层以及跟踪这些智能体行为的监控系统中。组织需要像对待人类用户一样对待人工智能智能体，为其定义权限、审计和监督，否则攻击面将迅速扩大。
许多企业正在将人工智能工具叠加在为人机速度设计的遗留安全工作流之上。为了真正利用人工智能进行网络防御，组织需要进行哪些最大的架构变革？
一个常见的模式是将人工智能“嫁接”到为人机驱动操作设计的遗留流程和工作流上。这并非一个糟糕的初步方法，尤其是在计算机视觉已成为现实的今天。例如，德勤创建了一个智能体，可以经过训练来取代身份治理和管理流程中的人类，而无需淘汰那些难以停用的现有专用软件解决方案。这可以带来显著的成本节约。
然而，未来的好处在于，企业可能会开始从头到尾重新思考安全工作流：现代化数据基础，使安全工具能够可靠地访问高质量、结构良好的遥测数据；构建编排，使检测、响应和身份功能作为一个协调的系统运行，而不是孤立的工具。
身份仍然是其中最关键的控件之一。随着引入更多自动化和人工智能智能体，非人类身份的数量显著增长。有效管理这些身份对于维持控制至关重要。
原生人工智能安全最终是更好的数据、更好的编排以及兼顾人类和机器参与者的治理的混合体。
随着人工智能系统变得更加自主，攻击面扩展到智能体编排、API 链和自动化决策管道等领域。这些新兴的攻击面中，哪一个最让您担忧？
如果必须选择一个需要立即关注的领域，那就是智能体驱动系统内部的身份和数据访问权限。
随着组织引入更多智能体人工智能，他们正在企业内部创建越来越多的自主参与者群体。这些智能体可能拥有访问数据、API 和工作流的权限，这些权限极其强大，如果权限设计、监控和审计不严格，它们就会成为攻击者有吸引力的路径。重要的是要像对待新员工一样对待每个智能体：为其命名、界定范围、监控它，并能够在需要时快速断开其连接。
API 链和自动化决策管道也会引入风险，但身份治理通常是基础控制。如果你不能清楚地回答一个智能体是谁、它能接触什么以及它做了什么，那么你并没有真正控制它。
从董事会角度来看，高管和董事们目前如何看待人工智能驱动的网络风险？您认为技术现实与董事会层面的理解之间最大的差距在哪里？
董事会越来越意识到，虽然人工智能带来巨大机遇，但也可能带来重大风险。大多数董事都明白人工智能将影响业务转型，他们开始就治理、安全和韧性提出问题。
差距往往出现在速度和复杂性方面。许多董事会讨论仍然默认采用传统的网络框架——这些框架仍然重要——但它们并不总能反映人工智能驱动的威胁演变和扩展的速度。
另一个脱节之处在于，“我们的人工智能安全吗？”听起来像是一个单一问题，但答案却涉及数据治理、模型完整性、身份管理以及跨多个系统的编排。那些正在缩小差距的董事会正在推动基于控制的报告，使这些动态部分变得可见和可测试，并投入时间培养董事的理解能力，以便监督能跟上技术发展的步伐。
人工智能正越来越多地被用于战场双方。我们是否正在进入一场永久性的人工智能对人工智能网络安全军备竞赛？如果是，防御者拥有哪些攻击者难以复制的优势？
我们显然正处于一个攻击者和防御者都在使用人工智能的时代。对手已经在应用人工智能来加速侦察、识别漏洞并自动化攻击生命周期的某些部分。但如果防御者选择利用，他们仍然拥有真正的优势。
防御者对其自身环境有可见性，能够访问内部遥测数据，并且有能力构建攻击者必须穿越的分层架构。人工智能可以帮助防御者分析跨网络、终端和身份的海量数据，使他们有可能更早地检测到异常行为。
关键在于采用。如果防御者固守于手动工作流，而攻击者实现自动化，这种不对称性将变得极其严峻。军备竞赛是真实的，赢家将是那些部署了具有强有力治理的人工智能的一方，而不是那些仅仅进行试点的一方。
在您为大型企业提供咨询的工作中，组织在尝试将人工智能整合到其网络安全战略时，最常见的错误是什么？
我们看到最常见的错误之一是将人工智能视为一个独立的工具，而不是一种架构转变。团队进行孤立的实验，却没有升级维持影响力所需的数据基础、治理模型或运营流程，导致成果停滞不前。
另一个错误是在部署人工智能能力时，没有充分考虑新的风险：新的身份、新的数据流和自动化决策路径会扩大攻击面。如果这些是在没有适当控制措施的情况下“嫁接”上去的，人工智能可能会增加脆弱性，而不是韧性。
最后，许多组织低估了员工参与的重要性。每天运行安全运营的从业者知道摩擦点在哪里，以及“良好”状态是什么样子。最成功的转型会尽早让这些团队参与进来，使技术能够增强他们的判断力，而不是扰乱它。
展望未来三到五年，原生人工智能安全运营中心与当今的 SOC 环境相比会是什么样子？
嗯，它很可能看起来非常不同，在许多方面我无法预测。很可能，未来的 SOC 将作为人类和数字员工的混合体运作。人工智能系统将处理大部分数据处理、关联和初始响应活动。智能体系统将帮助自动化跨漏洞管理、身份治理、事件响应和持续控制监控的工作流。
人类分析师仍然至关重要，但重心发生了转移：监督人工智能系统、验证检测用例（而不是编写它们）、调查复杂威胁以及改进防御架构。
目标不是取代人类，而是提升他们的角色。分析师将不再花费时间分类警报和手动组装数据，而是专注于网络安全的战略方面。问题将是，“当一级和二级任务完全自动化时，我们将如何培训下一代安全专业人员？”答案或许在于人工智能可以帮助我们开发的模拟和培训技术的显著改进。
那些成功构建了结合人类专业知识和人工智能驱动自动化的混合员工队伍的组织，很可能最有能力以现代威胁环境所需的速度运营。
