重新定义高管层的权威: 培养与 AI 关系真正需要的要素

我在安全运营的采购方工作了 25 年，从未为防火墙规则失眠。然而，我却为 AI 失眠。传统自动化，无论多复杂，其逻辑都是可追溯的。但在前所未有的自主 AI 规模下，系统被信任去做判断，而工程师并不总能完全解释——这种透明度的缺失正是众多 CISO 陷入困境的原因。

97% 的安全领袖相信 AI 能处理分流，但实际只有 35% 在此使用。这个拐点是信任问题，而信任只能像以往一样通过结构、证据和时间来解决。

您可以看到自动化，但您能信任 AI 吗？

使用传统自动化，实践者能够在事发前确定地知道会发生什么。这种透明度让 SOC 团队在过去十年里构建对自动化工作流的信任，几乎没有内部争议；然而，自主 AI 通过引入学习型判断层——一个权衡上下文、做出预测并通过并非始终完全可读的过程得出结论的系统——打破了这一模式，即使是构建它的人也不一定完全看得懂。

只有 21% 的组织表示已为自主 AI 建立了成熟的治理模型，尽管 74% 预计到 2027 年会至少“中等程度”使用 AI 代理。当安全从业者无法透明地解释这种“黑箱 AI”，这正体现了治理 AI 工具的难度。这并非因为工具未得到妥善安全防护，而是因为 AI 工具的内部运作基于判断而非流程图。

在董事会议室，领导者评估 AI 的方式类似于评估自动化，询问“我能看到逻辑吗”，而不是询问“我如何对一个逻辑会演变的决策者建立信心？”大多数 CISO 可能已经知道答案，但挑战在于如何在实践中应用。

将 AI 视作高风险聘用

想象一下为一名新高级分析师进行入职。CISO 不会在第一天就把生产环境的钥匙交给一位刚加入的分析师，无论其简历多么出色。他们会让其先从低风险工作开始，观察其处理模糊性的方式，并随着其赢得信任而逐步扩大权限。AI 也应得到同样的入职培训，以基于证据的信任随时间累积。

我们已经在实际案例中看到其影响：一名 自主的 Meta AI 代理在未获人类批准的情况下采取行动，触发了公司范围的安全事件，导致敏感的公司和用户数据在约两小时内暴露给未授权的员工。根本原因是决策点缺乏人机交互的监督，本应要求明确批准。这正是严格防护栏旨在防止的失效模式，也提醒我们范围纪律比模型复杂度更为重要。

AI 同样值得如此关注，我们可以把它视作基于证据的提升：

• 在部署之前了解决策逻辑。 您不必看到模型中的每个权重，但需要了解它依据哪些数据进行推理、优化哪些结果，以及其盲点可能位于何处。
• 在第一天就设定严格的防护栏。 明确系统可以独立执行的操作以及哪些需要人工介入。有限的范围是建立信任的基石。
• 仅在证据累积后才扩大边界。 每一次正确的决策都是数据点，每一次失误也是数据点。应根据实际表现而非供应商热情或预算周期来扩大范围。

遵循这些协议有助于消除 CISO 的顾虑，包括防止自主系统在未经过实际验证的情况下继续运行并被视为可信。

三层模型: AI 获得其位置的方式

SANS 的安全 AI 蓝图 阐述了围绕三条轨道构建的治理结构：保护 AI、利用 AI、治理 AI，涵盖访问、数据、部署、推理、监控和模型安全六大控制类别。这是一个有用的起点；更进一步，按将 SOC 分为三层来结构化这种关系，有助于解决 AI 信任问题。

1. 结果层。 这一层承载业务风险。组织认为什么是可接受的结果？对假阴性与假阳性的容忍度如何？这完全是人为决策，毫无模型投票权。
2. 判断层。 在这里设定优先级并在模糊情况下做权衡。这个警报是现在升级还是等更多上下文？这个异常是否值得打断某人的夜间工作？判断可以由 AI 提供信息，且越来越应如此，但最终权威仍在人工。许多组织倾向于过早将此层交给 AI，一旦如此将付出代价。
3. 执行层。 AI 应在此层承担繁重工作，以人类团队无法匹配的速度完成。对警报进行丰富、跨十余工具关联信号、起草遏制措施、在人工或可信判断层批准路径后执行剧本。机器速度，一旦触发即确定性，无自负。

让伙伴关系成熟，而非仅管理工具

当 SOC 中的 AI 关系被构建为伙伴而非单纯的工具时，CISO 能开始将 AI 视作正在成长的队友，这将根本改变 CISO 的时间分配方式。

能够平衡这种关系的 SOC 往往拥有最严谨的信任构建流程。这种纪律使得安全运营在执行层以机器速度扩展，同时不失结果层决策所必需且永远需要的人类判断。

我们已经度过了将 AI 视作炫耀董事会的光鲜新工具的阶段。AI 的能力和潜力已经赢得了应有的权威，正如 SOC 中每个人一直对待先进技术的方式——一次经过验证的决策。