AI 不需要再建仪表板，它需要行动授权

多年来，网络安全一直痴迷于可视性。我们希望看到更多网络，收集更多遥测数据，关联更多事件，并更早地检测威胁。因此我们构建了仪表板。随后我们构建了更好的仪表板。然后我们在这些仪表板中加入了机器学习。现在我们正在加入人工智能。

但在某个时刻，我们必须提出显而易见的问题：一旦我们能够看到攻击，我们实际上准备怎么做？我认为下一个重大网络安全问题不会是检测，而是授权。

AI 可能为我们提供了安全团队数十年来一直渴求的能力：识别、理解，并 以机器速度响应攻击。这很重要，因为攻击正日益以传统 SOC 模型根本跟不上的速度发生。

然而，许多组织仍将 AI 部署在与以前完全相同的运营模型中。该技术可以在几秒钟内检测到异常，或许还能理解正在发生的事情并推荐适当的响应，但仍需有人批准接下来的行动。

此时，你实际上并未构建真正的自主防御。你构建的是一个极其复杂的警报系统。这里存在一个我们必须面对的矛盾。我们多年一直在说安全团队不堪重负。警报过多、基础设施过多、熟练人员不足，且没有足够的时间去调查所有问题。我们抱怨人类的响应速度不够快。

随后我们引入了能够比人类更快响应的技术，却拒绝赋予它行动的权限。

这毫无道理。如果我没有在事发时即时响应的授权，我始终只能事后进行事后分析。检测技术多么智能都无关紧要。如果响应机制仍在等待某人做出决定，攻击者仍然占据优势。

自主防御需要明确的响应授权

而这并非仅仅是 AI 带来的问题。大多数组织同样没有为其人工安全团队妥善解决响应授权的问题。

究竟谁被允许隔离一台机器？谁可以将服务器下线？谁有权因检测到攻击而中断生产流程？在许多组织中，这些决定仍不明确，要么在事件期间协商，要么通过层层管理上报。

AI 只是暴露了该模型已变得不可持续的事实。

如果我们真的想实现自主防御，授权必须来自最高层。董事会和高管团队需要在攻击发生之前决定愿意赋予其安全系统何种权限，而不是在所有人观看事态发展时才做决定。但赋予 AI 行动权限又会产生另一个问题。

AI 需要资产情报和业务上下文

你还必须为其提供足够的上下文以做出正确决策。设想一个 AI 系统检测到一台机器被渗透，并判断最安全的技术响应是将其隔离。从网络安全的角度来看，这可能是绝对正确的。

现在设想这台机器控制着一条每小时产出一百万英镑的生产线。

突然之间，技术上正确的决定可能是业务上错误的决定。

也许威胁已被足够遏制，可以在数小时内进行修复而无需关闭机器。亦或是将其下线会造成的损失远大于在更严格的控制下让其暂时继续运行。

除非组织向 AI 说明该资产是什么、它的功能以及若其消失业务会受到何种影响，否则 AI 无法作出此区分。这就是为什么 资产情报和业务上下文在 AI 驱动的 SOC 中变得如此重要。

安全团队多年来一直在讨论资产管理，坦率地说，许多组织仍然不知道自己拥有什么。

影子 IT 已经让这件事变得相当困难。业务部门在安全部门不一定知情的情况下购买服务器、部署应用并连接设备。随后我们又加入了云基础设施、远程办公、SaaS 以及日益分散的环境。那种拥有完好维护清单的整洁边界的概念早在数年前就已消失。

当运营模型主要是被动应对时，我们容忍了这种情况。出现严重事件时，分析员会进行调查并尝试建立上下文。

当期望 AI 自主做出决策时，这就变得更加棘手。

一个自治系统需要知道这不仅仅是 IP 地址 X 或端点 Y。它需要理解这台机器控制着制造过程，这台服务器支持 SAP，这个数据库包含关键的客户信息，或者将此特定系统下线会导致收入产生的业务停止。

没有这些知识，自治就会变成猜测。讽刺的是，这也是 AI 本身可以提供帮助的领域。它可以发现并分类资产，识别关系，找到那些没人意识到存在的系统，并联系业务所有者获取缺失的上下文。维护一个准确的资产数据库不必再是组织历来所进行的那种糟糕、手动、耗时多年的工作。

然而，这些信息必须存在于某处。如果组织本身不理解某个资产的功能或重要性，我们就无法合理地期望 AI 系统对其作出智能的业务决策。

定义自治网络安全的边界

这就是我认为围绕 SOC 中 AI 的讨论需要超越模型和检测率的原因。

这项技术正变得足够强大。

更大的问题是组织是否在运营上已准备好使用该能力。

这意味着要回答一些令人不适的问题。 AI 能独立做出哪些决策？ 它可以隔离什么？它可以阻止什么？在什么情况下应等待人工批准？哪些资产如此关键以至于需要不同的规则？以及组织内部谁有权制定这些规则？

这些是治理问题，但也是网络安全问题。

答案不能仅仅是让人类必须批准所有重要事项。听起来很安全，直到你考虑我们试图防御的环境。

当攻击在不到一分钟内就能展开时，等待十分钟让某人了解警报、找到合适的人并批准响应并不是谨慎，而是一种漏洞。

显然会出现错误。自治系统有时会做出我们宁愿它们没有做出的决策。这正是组织需要明确的授权、良好的资产情报、业务上下文以及 精心定义的边界 的原因。

但因为害怕后果而消除自治本身就偏离了重点。

目标不应是构建永不犯错的 AI，而是赋予 AI 足够的知识、上下文和授权，使其能够及时作出正确决策。

否则，我们将继续像安全行业多年来一直做的那样：检测攻击、生成警报、填充仪表板，并在事后解释发生了什么。

AI 为我们提供了改变这一现状的机会，但前提是我们最终赋予它行动的权限。