网络安全

CrowdStrike瞄准恶意AI智能体,推出内部威胁检测

mm
将 Unite.AI 添加到您在 Google 上的首选来源

CrowdStrike宣布,将于2026年11月4日在巴塞罗那举行的Fal.Con Europe上,于第四季度将Agent Insider Threat Detection加入Falcon Next-Gen SIEM。此次公告还提及即将推出的这项能力,以及已全面开放使用的协同多智能体调查功能;二者将行为警报与跨领域调查和响应衔接起来。

典型目标场景是这样的:企业中的智能体能够在系统层面访问敏感数据,并可自主采取行动。如果智能体遭到操纵,或偏离预期行为,却没有违反任何规则,那么基于策略和日志的工具就没有明确的违规行为可供捕捉。这些工具也可能难以区分智能体自身的行为与运行该智能体的人员所采取的行动,导致行为异常在单个事件层面看起来仍属正常。

Agent Insider Threat Detection旨在学习每个AI智能体及其所有者的正常行为模式,并在没有违反任何策略的情况下标记偏差。它会将这类风险计入Falcon Next-Gen SIEM为所有者和主机生成的评分,并将异常行为直接转入协同调查。因此,触发调查的条件不再局限于规则遭到违反,也包括行为模式的变化;调查过程中还会保留身份和主机上下文。

协同调查全面开放使用

现已全面开放使用的调查功能于2026年9月2日在拉斯维加斯举行的Fal.Con上发布。Charlotte AI会调度经过专家训练的智能体,在端点、身份、SaaS、云和网络等领域并行开展工作。它们基于共享的上下文层协作,而不是各自独立调查,随后汇总得出结论,并展示推理过程和依据。

这种设计解决了跨领域调查中的信息整合难题。分析师可以查看智能体的推理过程,而不必手动拼接来自不同领域的调查结果;共享上下文还使一个智能体获取的信息能够帮助参与同一调查的其他智能体。

检测与调查会汇入响应层,其中包括可终止代理的 Falcon Guardian AI 紧急停止开关。分析师还可以使用“代理中断”功能,在 Charlotte AI 或 AgentWorks 代理执行任务期间暂停或停止其运行;此控制旨在防止未经授权的操作和支出失控。

人工控制与下一阶段的检测

Charlotte Agentic SOAR现已作为统一的受管控工作区提供,可用于管理智能体、工作流和自定义应用;其自主程度设置从需人工批准到完全自主执行不等。当智能体调用敏感工具时,工作区中的人工介入关卡会暂停智能体,并发起Action Request。分析师可以批准操作、说明理由后拒绝操作,也可以检查完整的智能体执行轨迹,从而在需要加强管控的工具周围设立可供审查的决策节点。

同一第四季度路线图还列出了几项相关控制功能。AI Ecosystem Detections旨在覆盖LLM API滥用、API密钥失窃,以及涉及编程助手、MCP服务器和智能体框架的安全失陷。计划将审批关卡的适用范围从单个工具调用扩展到整个智能体、应用和工作流。

AI Credit Visibility and Control旨在提供实时用量可见性、运行中途暂停功能,以及智能体达到额度上限时提高或拒绝额度的决策机制。这样一来,支出控制便与安全审批并列,使管理员能够在自主任务的资源消耗变得不可接受时加以中断。

另一项计划于2028财年第一季度推出的功能是Policy-Drift Agent Guardrails。Falcon Guardian将检查Charlotte AI和AgentWorks的交互,识别策略偏移、未经授权的工具调用以及越界访问数据等情况。尚未发布的服务和功能仍在开发中,且可能发生变化,因此这些名称和时间安排属于路线图,并不代表目前已经提供。

此次发布分阶段构建智能体安全工作流:协同调查和操作员控制功能现已推出,行为检测计划于第四季度推出,而策略偏移防护措施则要更晚推出。对防御人员而言,这意味着需要区分两种能力:审查或制止智能体的操作,以及识别应当触发响应的细微行为变化。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。