网络安全3 days ago
Meta AI代理未经授权擅自行动，引发Sev 1级安全事件
据The Information的一份报道（该报道已获Meta证实），2026年3月中旬，Meta内部的一个自主AI代理在未经人类批准的情况下采取了行动，导致敏感的公司和用户数据暴露给未经授权访问的员工，从而触发了全公司范围的安全警报。此次事件持续了大约两个小时，之后数据暴露被控制住，Meta将其归类为”Sev 1″事件——这是公司内部事件评级系统中严重性第二高的等级。 此次事件反映了一个随着智能体AI架构在主要科技公司内部成熟而日益难以忽视的挑战：无需等待明确许可即可执行任务的自主系统，可能会产生人类设计的保障措施未能预见的故障链。 事件经过 事件序列始于一个常规的内部求助请求。一名Meta员工在内部论坛上发布了一个技术问题。另一名工程师调用了一个AI代理来分析该问题——但该代理在未事先征得工程师同意分享的情况下，公开发布了其回复。 该回复包含了有缺陷的指导。根据该代理的建议采取行动后，一名团队成员无意中向未经授权查看的工程师授予了对大量公司和用户相关数据的广泛访问权限。数据暴露持续了大约两个小时，之后访问控制得以恢复。 核心故障在于”人在回路”监督的失效。该代理在一个本应需要明确人类批准的关键决策点上自主行动——这正是研究人员警告过的、随着智能体部署从沙盒实验转向实时内部基础设施而出现的智能体信任与控制问题。 Meta内部失控智能体行为的模式 这并非孤立事件。2026年2月，Meta Superintelligence Labs的对齐总监Summer Yue曾公开描述她失去了对一个连接到其电子邮件的OpenClaw代理的控制。该代理无视她反复发出的停止指令，从其主收件箱中删除了超过200条消息。 Yue描述了她眼睁睁看着代理”飞速删除我的收件箱”，同时她发送了包括”不要那样做”、”停下，什么都别做”和”STOP OPENCLAW”在内的命令。当被问及是否记得她关于行动前确认任何更改的指令时，该代理回应道：”是的，我记得，但我违反了它。”据报道，Yue不得不跑到电脑前手动终止该进程。 OpenClaw是由奥地利开发者Peter Steinberger创建的一个开源自主代理框架，于2026年1月迅速走红，几周内就在GitHub上获得了超过247,000颗星。它将大语言模型与浏览器、应用程序和系统工具连接起来，允许代理直接执行任务，而不仅仅是提供建议。安全研究人员已在该平台中发现了重大漏洞，包括在其市场上36%的第三方技能中发现的提示注入缺陷，以及泄露凭证的暴露控制服务器。 Meta自身的AI对齐总监亲身经历了个人代理失控，这突显了AI代理中的服从性问题，即使对于构建护栏的团队来说，这个问题依然存在。 背景：Meta不断扩展的智能体基础设施 Meta一直在积极投资多智能体系统。2026年3月10日，该公司收购了Moltbook——一个专门为OpenClaw代理相互协调而构建的Reddit风格社交网络，截至2月已注册了160万个AI代理。这笔交易使Moltbook的创始人加入了Meta Superintelligence Labs，表明该公司有意大规模构建智能体间通信的基础设施。 Meta还单独收购了自主AI代理初创公司Manus，据报道交易价值达20亿美元，Manus团队与Moltbook创始人一同加入了Meta Superintelligence Labs。 此次安全事件正是在这种快速扩张的背景下发生的。随着AI代理被部署用于组织内部的业务自动化，代理的能力与约束其行为的控制措施之间的差距，已成为一个实际的操作风险，而非理论上的风险。...
