重新思考 AI 弹性: 为何是时候摒弃“设定后忘记”模式

最近的 Gallup 调查 表明 AI 采用率正在增长，超过一半的在职成年人表示他们每年至少使用该技术几次。此数据仅是企业环境中快速 AI 采用的一个迹象。虽然多位企业领袖 已经开始质疑 AI 的投资回报率，但这并未阻止组织利用该技术来简化手工任务并最大化生产力。

在这种采用持续进行的同时，组织可能会倾向于忽视自动化工作流中的有害失误。他们将 AI 视为即插即用的解决方案，只需 IT 团队设置好技术、让其运行，然后“忘记”它的存在。一些安全团队试图对抗这种思维，制定自动化手册以促进安全可靠的 AI 使用。但即便是最优秀的 IT 与安全团队，也在这些手册中留下了很少的调整空间。因此，企业无法在 AI 本身也在演进的情况下安全地随之发展。

随着企业在关键业务工作流中赋予 AI 更大的权限，运营敏捷性必须成为当今组织的新使命。要使其成为普遍实践，企业安全领袖必须摒弃“设定后忘记”的思维方式，并为弹性进行工程设计。

了解自动化悖论

AI 驱动的自动化在多个企业职能中带来了巨大的生产力提升。以网络安全为例，AI 工具使分析人员能够执行他们在工作负荷过重、压力巨大的安全运营中心本来没有时间完成的额外步骤。这包括警报优先级排序、事件审查、威胁检测、交叉验证以及获取第二意见等任务。与部分高管不同，CISO 仍普遍对 AI 未来能够提供的价值持乐观态度。根据《CISO 报告: 从风险到 AI 时代的弹性》的数据，83% 的 CISO 认为自动化是最有可能超出预期的投资。

面对这些收益，仍然存在一个悖论。同一报告指出 CISO 对 AI 持有的怀疑，担忧自主错误的后果。83% 的 CISO 将幻觉带来的影响——例如错过警报或误报——列为他们对代理 AI 最大的担忧。已有充分证据支持对幻觉的担忧。一家大型商业航空公司因其客服聊天机器人出现幻觉，误称有哀悼票价退款政策而被依法追责并被判赔偿。一家威胁情报公司因据称发布报告将一家初创公司与外国势力的黑客关联而面临法律问题。当 AI 出错时，后果可能超出内部系统，波及资本和声誉。

陈旧手册的问题

以 AI 为中心的安全手册是成功、安全采用 AI 的基线。然而，当这些手册从未更新时，就会出现问题。威胁、IT 基础设施和业务环境不断演变。AI 使威胁行为者能够规模化攻击，而日益扩展且复杂的 IT 环境使检测更加困难。与此同时，随着企业赋予 AI 更大的责任，错误的后果也变得更加重大。

如果所有这些因素持续演变，那么自动化逻辑也必须随之演进。僵化的自动化手册阻止了这一点。它们让安全团队只能用过时的逻辑应对当前问题。有时，这种情形甚至比安全团队根本没有手册还要糟糕。

为了让手册成为适应当前 AI 实施的活体，从而促进内部弹性，它们需要:

• 持续针对最新威胁情报进行测试
• 在真实事件发生后进行更新
• 一旦不再有效或有价值即予以淘汰

这种思维方式与来自网络安全与基础设施安全局（CISA）以及其他全球网络安全机构的指南相一致，这些指南倡导对 AI 系统进行持续监控和持续的人类干预。

实施弹性公式

AI 时代要求企业摆脱将 AI 视为点式解决方案或仅仅在现有用例上套用自动化的思维模式。组织需要建立一种弹性文化，使 IT 人员和系统能够在 AI 表现良好之处进一步提升，并在技术出错时高效响应。

一个由三部分组成的实用公式可以帮助将这种弹性嵌入自动化操作中。

• 信心: 对于每个自动化工作流，团队应自问: 我们对触发自动响应的触发器有多大的信心？
• 可逆性: 该操作是否可逆？如果是，我们能多快且安全地执行此操作？
• 影响范围: 如果错误扩散，后果会有多广，以及受影响资产对业务的重要程度如何？

合适的可观测性和监控工具对于回答这些问题至关重要。团队应利用统一的可观测性和数据管理平台，以便全面了解自动响应可能在 IT 环境中的何处触发、影响哪些其他资产以及相关的业务后果。定期进行此类演练将使安全团队保持 AI 手册的最新状态。此外，这还能实现适当的人机交互实践，因为 IT 团队将知道在何处以及如何介入，以防止不当的自动化操作产生广泛且代价高昂的影响。

不再设定后忘记

对于现代 CISO 和 IT 领袖而言，认识到 AI 行为的最终责任落在他们身上至关重要。AI 越多地介入关键企业工作，首席网络安全官的负担就越大。一个值得记住的经验法则是：“自动化改变了谁按下按钮，但并不改变谁对按钮被按下负责。”

当今 CISO 面临的风险和责任过于重大，不能继续使用“设定后忘记”的手册。相反，弹性必须既是一种实践，也是一种渗透整个企业的文化，使其在 AI 出错后能够迅速恢复。当团队在自动化手册中加入持续监控、可逆性、遏制以及人为所有权时，企业可以防止自动化决策演变为全业务范围的问题。