CYGNVS韧性基准报告揭示人工智能事件应对准备方面的不足

CYGNVS韧性基准报告由CYGNVS与 Marsh Risk 合作编制。报告基于超过9,500份受访者自报问卷，发现各组织对人工智能的使用与其管理相关事件的能力之间的差距正在扩大。报告称，89%的受访组织经历过某种人工智能事件，而46%的组织在应对此类事件时只能临时应对。

报告于2026年10月13日发布，探讨了一个日益重要的问题：人工智能正从内容生成转向运行业务工作流。让智能体访问文档、电子邮件和业务系统，可以发挥其作用。但与此同时，错误指令、凭据泄露或不受控制的一连串操作也会变得更难遏制。

研究结果表明，采用人工智能与为应对其故障做好准备，进展速度并不一致。数据集中的组织约有80%使用生成式人工智能，但只有三分之一会针对攻击测试其人工智能。四分之三的人工智能使用组织表示设有人工智能治理委员会，但这并不一定意味着它们已建立并测试过运营防御措施。

报告如何界定人工智能事件

报告中的关键数据需要结合背景来理解。报告对人工智能事件采用了宽泛的定义，涵盖有害的幻觉、偏见、模型漂移、数据泄露、智能体追求非预期目标、交互智能体之间发生故障，以及防护措施不足等情况。这些事件的成因和后果可能大不相同。

面向客户的回答不准确，与智能体泄露机密信息，都属于这一更广泛的讨论范畴，但两者并非同等性质的安全事件。因此，89%这一数字应理解为受访者报告曾经历某种人工智能事件，而不是近十分之九的组织遭遇了人工智能驱动的安全入侵。报告还称，16%的组织至少每周会遭遇一次人工智能事件，但并未说明这些事件的严重程度都相同。

这一区别对响应规划十分重要。对于有害的模型输出，可能需要撤下相关内容并审查受影响的决策。对于通过连接工具采取行动的智能体，则可能需要撤销权限、保留活动记录，并查明多个系统中的变更。传统的入侵应对预案或许能涵盖上述响应的部分内容，但团队仍需明确自己可以采取哪些人工智能特有的措施，以及谁有权采取这些措施。

预案并不少见，能付诸执行的却不多

报告将准备情况分为四个阶段：准备、演练、响应和报告。贯穿这四个阶段的反复出现的弱点，是有书面文件与能在压力下执行文件之间存在差距。

• 准备：92%的组织制定了书面的事件响应流程，但只有37%制定了专门针对勒索软件的预案，29%制定了针对第三方事件的预案。
• 演练：17%的组织不进行桌面推演；另有66%的组织每年或每两年进行一次。
• 响应：67%的组织尚未为其最关键的流程和依赖关系明确指定负责人。
• 报告：69%的组织承认，在记录谁于何时采取了什么行动方面存在重大不足。

与此同时，超过十分之六的组织表示，过去12个月中的事件数量有所增加；84%的组织每年审查响应预案一次或更少。这些数据反映了准备情况的不同方面，但合在一起引出了一个实际问题：当预案所描述的系统、供应商和权限持续变化时，预案会多快过时？

对于人工智能部署，变更可能包括采用新模型、增加数据源，或赋予系统执行以往由人工完成任务的权限。每一项变更都可能改变故障发生时所需的响应措施。预案需要明确相关系统的负责人、可用的遏制措施，以及在遏制事件时必须保留的证据。

为什么响应基础设施需要独立的边界

受访组织中，只有33%设有专用的带外指挥环境，使被调查的人工智能无法观察或影响该环境。其架构层面的关键问题很明确：响应团队需要一个用于协调工作的场所；当受影响的环境不再可信时，这个场所仍须可靠。

设想一个能够访问共享文档和企业消息系统的智能体。如果响应人员把调查笔记和遏制计划放在这些相同的系统中，该智能体的权限也可能让它访问响应信息。这并不意味着每个发生故障的智能体都会隐瞒自己的行为，而是意味着响应架构不应依赖受影响系统正常运行。

CYGNVS通过一个平台，为安全团队、企业领导者和外部专家提供协同指挥支持。其人工智能事件指挥中心包含人工智能专用预案、演练场景和响应指导。该公司表示，这一环境独立于客户的企业单点登录、电子邮件和基础设施运行。

其带外能力包括为用户设置独立身份，以及通过隔离模式（Isolate Mode）将事件工作区限制为仅限获授权的参与者访问。该公司还介绍了历史快照和经数字签名的访问认证记录，用于记录响应活动。这些功能用于协调工作和管理证据；其成效仍取决于组织如何配置访问权限、分配职责并演练如何使用这些功能。

演练必须纳入决策者

报告中的组织只有15%开展涉及法务、高管和传播团队的完整跨职能桌面演练。近半数组织仍主要将演练视为安全和IT部门的工作，需要时才让其他职能部门参与。

因此，重要决策并未得到充分演练。安全团队或许能够禁用某项集成，但中断面向客户的服务可能需要业务负责人批准。调查尚未完成时，法务和传播团队可能需要评估哪些内容可以对外说明。演练这些交接环节，有助于发现授权缺失和假设冲突。

外部服务提供商也是一项依赖因素。尽管88%的受访者表示制定了危机传播计划，但超过四成尚未落实这些计划所依赖的外部专业支持。联系人名单和合同安排都是运营准备工作的组成部分；在大范围事件中，尤其如此，因为多个组织可能需要同一批专家提供支持。

如何解读这份基准报告

方法说明称，研究收集了9,500多份调查问卷，时间跨度为2023年1月至2026年9月，覆盖亚洲、欧洲和北美国家的21个行业。受访者自行报告信息，答卷经过匿名处理，并以汇总方式分析。数据集涵盖过去24个月内发生过和未发生过重大网络安全或AI事件的组织。

这是一项历时多年的调查答复汇总，并非一次面向9,500家不同公司的最新民意调查。已公布的方法说明并未表明研究采用了能够代表所有组织的概率抽样，也没有列出每项重点调查结果对应的样本量。这些百分比可作为数据集内的参考指标，但不应视为对普遍事件发生率的精确估计。

报告发现，近期发生过重大事件的组织，在多项准备度指标上往往表现更强。这种关联值得进一步考察这些组织做出了哪些改变，但仅凭这一点无法证明事件经历导致了改善。CYGNVS也销售事件响应管理软件，因此在评估其建议时，应考虑其商业利益。

将研究发现转化为运营改进

除发布报告外，CYGNVS还推出了韧性基准评估功能。该公司表示，客户可以借此按行业、规模和地理位置对比准备度。非客户也可以免费完成评估，获取个性化基准报告。报告和评估可通过CYGNVS 的韧性资源获取。

最有价值的做法是对具体行动进行测试：谁有权暂停某个代理，企业系统遭到入侵时响应人员在哪里沟通，哪些记录能够留存，以及外部专家能否在无需临时拼凑紧急访问权限的情况下加入。衡量这些能力，能让董事会和安全负责人比单看是否制定了政策更清楚地了解组织的准备情况。

随着组织赋予AI更大的权限，响应准备工作也需要同步加强。《CYGNVS韧性基准报告》让这一差距清晰可见。要弥合差距，团队必须将书面意图转化为已经演练过的决策和控制措施。