思想领袖

华盛顿可以暂停 Anthropic 的模型,但它无法修复你的架构

mm
将 Unite.AI 添加到您在 Google 上的首选来源

围绕 Anthropic 的 Fable 5 与 Mythos 5 模型的风波,为 IT 行业提供了一个罕见的、实时的案例,展示了在地缘政治压力下的 AI 治理。6 月,美国商务部下令 Anthropic 切断所有外国公民对这两款模型的访问,理由是国家安全担忧。Anthropic 未能及时核实用户国籍,于是完全关闭了访问权限,随后在几周后恢复。多数报道指出,触发此事的是一次 jailbreak,使模型表现得像一款强大的进攻性网络工具。前沿模型在发现和利用漏洞方面不断进步,这一趋势无论本月哪个实验室受到审查都将持续。

IT 领导者可以从本次事件: 了解暂停所揭示的 Anthropic 自身架构以及它对所有需要随时回答治理问题的组织的意义。

缺乏诊断的指令

即便目前已将原因归因于一次特定的 jailbreak,政府仍未公开其决定背后的完整技术细节;而在数周内达成的快速和解,以及 Anthropic 提出的行业范围内评估 jailbreak 严重性的框架,表明这既是技术层面的,也是通过协商、关系驱动的结果。无论最终原因为何,都不改变更重要的事实: a competitor released a comparably capable model that escaped the same restriction,这又引发了关于一致性的疑问。

这在运营层面具有重要意义,因为它意味着 IT 领导者不能将此事视为一个已解决、具有明确根因的离散事件来防御。它是一场地缘政治和监管的事件,而非一次性的技术故障,且其背后的压力并不会消失。仅在几周内限制某家供应商的访问并不会实质性改变这一趋势。相反,它说明无论哪家实验室的模型在某周位居榜首,发现和利用漏洞的门槛都在下降。

为何准备充分的团队几乎未察觉

对生产环境的 IT 来说,更具启发性的问题是,这类系统每日运行的组织到底会发生哪些实际变化。诚实的答案是几乎没有,这正是关键。那些已经基于任何模型、供应商或访问路径可能在一夜之间消失的假设构建 AI 治理的团队,将此事件视为常规。单一模型的存在或缺失从未能保护他们。

他们自己的系统能够在有人提出治理问题的瞬间给出答案: 谁对哪些资源拥有访问权限、通过哪些工具,以及当访问需要变更时会发生什么。Anthropic 的暂停正展示了缺乏此能力时会出现的情况。政府下达了命令。Anthropic 无法在实时对数亿用户进行国籍验证,因此唯一合规的做法是对所有人全部关闭访问。这正是当组织的架构无法快速回答特定问题时,所呈现的强制、粗暴的全或无响应。Granular, real-time visibility into access and identity exists to prevent exactly that outcome

如此框定,Fable 5 事件预示了任何大规模运行 AI 的组织最终都可能面临的强制性事件。它可能以监管指令、供应商自身的风险评估或新发现的漏洞形式出现。能够顺利度过此类事件的组织将不必再猜测该信任哪款模型,因为其架构已经能够直接给出答案。

API 层验证问题

本次事件中一个不太显眼但可能更具影响力的线索是,这一验证缺口实际上反映了底层架构的什么问题。它指向一种结构性限制:组织在事后才在 API 层建立信任与身份,而本应从一开始就将其纳入架构设计。

对于运行关键基础设施的组织——如制造业、公用事业、金融服务、医疗保健以及支撑这些业务的企业系统而言,这一经验远超出出口管制合规的范畴。如果访问、身份和数据流无法持续、实时地进行验证和治理,则任何外部决定——无论是监管指令、供应商自身的风险评估,还是新发现的漏洞——都可能迫使组织采取粗暴的全或无响应。最能抵御此类冲击的组织是那些已经拥有细粒度、实时可视化,了解谁在何时触及其生产环境的组织,而非依赖事后定期审计或供应商保证的组织。

构建主动式 AI 治理

主动式 AI 治理在实践中到底是什么样子,而不是仅停留在政策文件中?它的起点是将任何模型、供应商或访问路径视为可能在未预警的情况下被撤回的对象,并构建不依赖于任何单一实体持续存在的治理体系。

这同样意味着投入运营可视化,使团队能够实时看到系统何时调用大型语言模型(LLM)。在后续版本的情境中脱颖而出的团队,将是那些根本无需紧急响应的团队,因为可视化和防护措施已经内嵌在其资产的运行方式中,无论 API 调用背后是否有特定模型。

Jan Karstens 于2025年9月加入 Avantra,担任首席技术官,带来了二十多年在企业软件、AI 和云平台领域领导技术和产品创新的经验。常驻德国,Jan 负责推动 Avantra 的技术战略、产品架构和创新路线图,随着公司推进面向 SAP 运营的智能自动化解决方案。

在加入 Avantra 之前,Jan 曾在 Aleph Alpha 担任 AI 解决方案架构师,专注于开发企业级 AI 解决方案。在此之前,他是 STP – The Legal Tech Company 的首席技术官,负责公司 SaaS 产品的现代化。Jan 在 Blue Yonder 工作超过十年,先后从研发主管晋升为首席技术官,随后担任云平台工程副总裁,领导将平台转型为面向零售和供应链优化的云原生 AI 与机器学习平台。

在其职业生涯早期,Jan 曾在 SAP 和 Lufthansa Systems 担任高级开发职务,奠定了在大规模企业软件设计与架构方面的坚实基础。他的职业生涯始终体现出对技术卓越、创新以及打造高绩效工程组织的持续热情。