思想领袖
AI 能扩大安全防护规模,但规模扩大后,究竟要扩大什么?

要点处理更多数据并不会在没有组织背景的情况下自动改善威胁检测。
查看更多
- 处理更多数据并不会在没有组织背景的情况下自动改善威胁检测。
- 经过微调的模型能够以比前沿模型更可预测的成本支持大规模调查。
- 自主性应与风险相称,并且在扩大代理规模之前就应设计好治理机制。
如今,企业安全团队面对的活动、遥测数据和警报越来越多,靠人工调查已不现实。估算结果不尽相同,一些研究表明,安全运营团队平均每天会收到超过 4,400 条警报。随着组织不断扩张、增添更多工具,以及 AI 使攻击手段日益增多,这一数字势必还会增长。我们已经看到,有些企业的环境中拥有 200 万个端点,而仍在人工调查这些警报的安全团队,面对日益具备智能体特征的攻击者时,显然处于不公平的劣势。
对于防御人员而言,AI 智能体可以接手调查以及环境中的其他重复性任务,从而改变这一局面。然而,处理更多数据并不必然意味着威胁检测或响应能力会更强。真正需要的不只是规模,更是上下文信息。
评估规模时,上下文信息至关重要
调查数百万个端点的智能体,必须了解自己要查找什么、在特定环境中哪些行为属于异常,以及哪些发现需要进一步调查。缺少这些上下文信息,自动化就可能把噪声一并放大,并得出无关或误导性的结论。
还要记住,并非每个组织都能针对每条警报依赖前沿模型进行调查;这样做的成本会高得难以承受。
不同安全环境的基础设施、应用程序、运营要求、监管义务和风险承受能力各不相同。防御人员必须在维持应用程序运行的同时,满足合规要求并避免干扰运营。
要发挥作用,智能体必须纳入组织内部的知识,包括以往的调查、既定流程以及经验丰富的分析人员所作的判断。这些知识中有许多无法简单地通过电子表格或其他格式提供给智能体;智能体需要通过观察经验丰富的防御人员实际开展工作,从中学习。
对企业而言,关键问题是如何将这些组织积累的知识转化为能够以机器速度作出一致且符合具体情境的决策的系统。
如何将组织知识转化为实际能力
组织需要建立机制,来捕捉并运用调查所依据的知识,包括以往案件的处置决定、既定流程以及分析人员解读证据的方式。企业可能还有需要一并记录的“定制”流程、工具和内部经验知识。
模型专门化是一种可行方案。针对单个企业客户微调模型,有助于以更可预测的成本开展大规模调查,同时保持出色的性能。对于涉及极大规模端点群体的任务,经过微调的开源模型可能尤其有用。
随着模型、工作流和企业环境发生变化,组织还必须评估智能体的表现。在无法继续获取生产数据或生产数据已经过时的情况下,合成环境(即数字孪生)可以提供具有代表性的测试环境,用于测试不同版本的智能体。
微调并非提供上下文信息的唯一方式。检索、记忆、工作流编排和明确的策略控制都是替代方案。核心要求是,所选方法必须能够提升智能体在其实际运行环境中的表现。
要实现大规模自主运行,必须明确界限、监督机制和协同方式
正确识别威胁只是挑战的一部分。智能体必须了解自己获准采取哪些行动、何时需要人工批准,以及如何避免干扰正常的业务运营。明确哪些情况下智能体可以自主行动、哪些情况下必须由人作出决策,是实现可信部署的关键。
实现大规模自主运行,也必须具备规模经济。使用前沿模型调查数百万起事件的公司,最终会把自己拖垮。因此,找到最高效的 AI 模型调查方法至关重要,无论使用的是小型语言模型(SLM)还是专有模型。
自主程度应与风险相称。常规且充分理解的任务可能适合自主执行,而影响重大或可能造成干扰的行动则可能需要人工批准或额外授权。企业安全也依赖团队之间的协同。如果调查发现某项威胁需要更改防火墙配置,就必须将事项无缝移交给负责该系统的团队,并确保修复工作具备适当授权且责任明确。
因此,治理和工作流设计是部署智能体不可或缺的组成部分,而不是等技术规模扩大后才追加的控制措施。
衡量安全 AI 成功与否,下一项标准是成果质量
组织应根据结果导向的指标评估智能体,包括调查准确率、误报率和漏报率、调查与修复所需时间、每次调查的成本、升级处理质量,以及对授权政策的遵守情况。
随着模型和工作流程不断变化,持续评估至关重要。针对具有代表性的案例测试不同版本的智能体,并使用合成环境,有助于组织在将更新部署到生产环境之前发现性能退化。
安全负责人必须在自动化带来的益处与部署的运营风险之间取得平衡。应用程序可用性、合规义务、组织的风险承受能力和实施时间表,都会影响新功能的采用速度。
AI 为安全团队提供了应对长期人力能力不足问题的机会,但单纯扩大规模并非最终目标。真正的机会在于将机器的速度与组织背景、适当权限和人类判断相结合,让智能体能够分辨轻重缓急、采取恰当行动,并在必要时让合适的人员参与进来。












