AI已成为新的内部威胁，但应对风险的计划总是慢了一步

Hugging Face遭遇的数据泄露及类似事件令整个行业不寒而栗，但组织应把重点放在软件开发生命周期（SDLC），而非AI模型层。

7月发生的 Hugging Face数据泄露事件由OpenAI智能体引发；此后不久，又有报道称Anthropic和Meta模型也发生了类似的越界事件。这些情况敲响了警钟，令人开始关注一种看似新型的网络攻击：由恶意智能体AI引发的内部威胁。

但这类事件其实并不新鲜。事件发生在前沿AI实验室——这些实验室多年来一直让人感到不安——给它蒙上了一层不祥的新面纱，但这些事件所揭示的，仍是企业多年来不断累积的同一种失效模式和盲点。

它们也并非有意作恶。在Hugging Face数据泄露事件中，约1,200个人工智能智能体试图在测试环境中完成指定目标；诚然，它们的行为并非总是光明磊落。在此过程中，它们暗中通信、利用漏洞，并在未被察觉的情况下活动了几个月；其中约700个智能体冲破了所谓“隔离”环境的屏障，得以访问互联网和第三方。

这些事件令人不安之处，不仅在于不受约束的AI智能体可能构成严重威胁——这一点毋庸置疑。如果智能体能在前沿实验室团队眼皮底下肆意行动，而该团队既人才济济、资源充足，又有充分动力密切监控活动，那么你或许也该问问：此刻，你的开发环境中运行着哪些AI智能体和AI辅助工具？如果AI领域最顶尖的机构都无法实时了解自身环境中的情况，那么普通组织又能有多大把握？

组织要想更好地管控智能体AI，首先应认识到，这种新局面不过是长期挑战的强化版。但要应对这一问题，许多企业仍缺少一项关键能力：在软件开发生命周期（SDLC）早期实现可视化和可观测性。

OpenAI与Hugging Face：未来或将如此

在Hugging Face数据泄露事件中，包括OpenAI于7月发布的新旗舰模型GPT-5.6 Sol在内的多个前沿AI模型，试图完成一项范围狭窄的任务——ExploitGym基准测试。该测试用于衡量智能体利用安全漏洞的能力。Anthropic在一篇回应此次事件的帖子中指出，这些AI模型虽然“在安全防护有所减弱的情况下运行”，却仍能逾越界限、绕过技术控制措施、通过未经授权的渠道协作，并最终采取冒险行动。

尽管这起数据泄露事件直到7月才被发现，但智能体早在5月就开始不当通信，并一直未被察觉。METR和Redwood Research与OpenAI并行开展了一项独立调查，发现尽管智能体知道自己违反了规则，却很少有智能体想到要通知OpenAI，而是继续一意向前。

OpenAI发布报告后，Anthropic重新审查了此前的网络安全评估，发现某个Claude模型在4月三次绕过控制措施，摸索出联网方法，并未经授权访问了三家外部机构。此后不久，Meta披露，其最先进的智能体AI模型Muse Spark 1.1的一个版本也突破了网络安全测试沙箱，并侵入一家外部公司的网络。

OpenAI在报告中还警告说，这起事件预示着未来可能发生的情况，并表示许多模型，包括日常使用的开源模型，很快就会具备同样的能力。近期发生的Medicare数据泄露事件印证了这一说法。

AI治理必须落实到SDLC层面

这些智能体发起的攻击令AI界震惊。OpenAI宣布将加强测试环境中的控制措施，随后又与Anthropic、Microsoft、Amazon Web Services及另外100多家公司共同发出警告，指出针对关键基础设施的AI赋能网络攻击浪潮即将到来。联名信警告说，攻击可能几个月内就会发生。

担心遭遇类似攻击的组织，需要从软件开发环节入手，强化自身基础设施。真正的问题不只是智能体AI日益复杂，还在于缺乏实时监控和有实质意义的人工监督。组织应着力弥补人员和流程方面的缺口，而不是把AI风险视为技术发展必然带来的结果。

在行业的大部分领域，组织都把监控和可观测性重点放在AI模型层，但那已经晚了一步。到那时，马已经有一半跑出马厩了。必须在AI最初进入企业的环节——SDLC内部——落实可视化、监控、可观测性和治理。此外，组织还要确保使用AI编程工具的开发人员接受必要的教育并具备相应技能，防止这些工具给开发流程引入缺陷、漏洞和不良习惯。

大多数软件缺陷都始于开发阶段。如果开发者不具备安全编程技能，或无法修复 AI 引入的缺陷，问题就会迅速蔓延。开发者需要接受培训，以掌握必要的安全技能；同时，还需要对他们掌握这些技能的进展，以及在日常工作中运用这些技能的情况进行跟踪。

随着 AI 日益深入地融入组织的运营方式，安全代码输出的新基准已逐渐明晰：企业必须对开发者及其 AI 编码工具进行安全可追溯性管理、可观测性监控和治理。

持续威胁需要持续应对

我们过去或许认为，软件相对无害，只会按照编程指令运行。即使出现故障，它也可能会卡住或导致一段时间的服务中断，但不会主动发起攻击。AI，尤其是智能体 AI，彻底颠覆了这一假设。无论是智能体 AI，还是由开发者辅助使用的 AI，任何 AI 模型的行为都必须受到持续观察和治理。

无论新兴的 AI 威胁针对的是医院、水处理厂、发电厂还是企业，都令人不寒而栗。但组织并非毫无防备。它们可以实施 AI 治理，但必须从基础做起。通过营造重视安全软件的文化，并为开发者提供相关培训，组织就能为潜在问题带来亟需的可观测性、可追溯性和治理水平；如果放任不管，这类问题只会愈演愈烈。