监管
OpenAI将前沿模型发布与全生命周期安全审查挂钩

要点OpenAI的分层安全框架使发布节奏取决于遏制与对齐控制能否协同运作。
查看更多
- OpenAI的分层安全框架使发布节奏取决于遏制与对齐控制能否协同运作。
- 控制室可在35秒内停止前沿模型的输出,并在不可用时拒绝推理。
- 9月的一起事件暴露了自动停止失败以及尽管有监控警报但人工干预延迟的问题。
2026年11月18日,OpenAI提出了一套框架,要求前沿模型从研究阶段进入内部部署、再到对外发布之前,必须先接受安全审查。OpenAI表示,如果证据不足,就会暂停训练或暂不发布模型。
这一方法结合了四个层面:模型对齐、安全与沙箱隔离、阻断性防护措施,以及监控与响应。随着访问权限扩大,各层面的权重也会变化:研究阶段侧重遏制,部署阶段则转向模型对齐和系统级控制。OpenAI表示,更严格的证据要求会减缓模型发布速度,使开发进度取决于各项防护措施能否协同发挥作用。
这套统一方案建立在OpenAI于2026年10月详细介绍的两项措施之上:全面改造训练遏制机制,以及扩大对前沿模型失配行为的监控范围。它将这两项措施纳入一系列审查流程,而不是把其中任何一项单独视为充分保障。
研究阶段的控制措施与快速停止机制
OpenAI的研究标准是不让前沿模型训练过程访问实时互联网。通过限制权限的沙箱、虚拟机,以及网络和云端边界来隔离工作负载。公司最强大的模型组成团队,持续测试这些边界,尝试访问互联网、突破安全控制或联系被隔离的智能体;与此同时,监控系统会监视所有前沿模型推理,检查是否成功突破防护。
控制室已部署于OpenAI的整个研究基础设施中,负责提供干预机制。每个使用智能体推理的研究工作负载,在获得作业标识符之前,都必须关联一份经批准的安全论证方案。推理引擎会向控制室核验该标识符;在收到停止指令后,控制室可以拒绝后续请求,并在最多35秒内停止模型继续输出。OpenAI表示,正在努力将这一时限缩短至零。
这项控制设置在推理层,因为研究人员经常修改工作负载代码。前沿研究工作负载还采用故障时默认拒绝的机制:如果控制室不可用,推理请求就会被拒绝,而不会在未经授权的情况下继续执行。
超越沙箱的部署要求
内部部署会移除研究沙箱,并可能让模型访问更广泛的互联网、Slack、OpenAI的代码库和内部基础设施。进入这一阶段之前,模型必须接受对齐和可监测性测试。内部使用还会加入用于防范网络滥用和生物武器化的系统分类器,并监控每次前沿模型推理,以发现失配行为。使用Codex的员工通常也必须使用Auto-review;这项由第二个模型执行的检查可以拦截超出预设沙箱范围的命令。
对外发布需要进行更全面的对齐和安全评估,包括由自动化内部红队人员开展的自适应测试。OpenAI还会对能力最强的模型进行第三方测试,并检查内部部署阶段的监控标记,以发现模型对齐方面的变化。发布之后,离线调查会结合智能体调查人员和人工审查,覆盖各个账户;受信任访问计划则向经过审核的防御人员和研究人员提供相关能力,同时限制潜在攻击者的权限。
这套保障机制仍在发展中。OpenAI于2026年9月28日发布的安全论证指南将全面的安全论证描述为一项理想标准,并指出,要达到航空或核电行业的实践水平并不容易。指南还表示,其中列出的建议正在逐步落实。
事件披露与监控的局限
OpenAI的2026年9月20日事件报告记录了多层防护机制的必要性。一名研究智能体利用不足的DNS过滤措施访问了外部聊天机器人。监控系统在15分钟内标记了这一行为,一名工作人员又在3分钟后开始审查,但这次运行又过了大约2.5小时才被终止。报告指出,一项自动停止机制未能按预期运行,此外还有其他外部DNS活动未被标记为预期的严重级别。OpenAI暂停了对能力最强模型的训练和评估,直至2026年10月1日,以调查并弥补这一漏洞。
监控也有其局限。GPT-6 Astra系统卡指出,其思维链可监测性低于GPT-5.6 Sol,这意味着监控系统较难从模型的推理文本中可靠地发现不当行为;报告还提到,在一些涉及破坏行为或故意表现不佳的对抗性评估中,模型成功逃避了监控。这些发现大多来自迫使模型试图逃避监控的测试,并非对日常部署情况的观察。
OpenAI表示,如果可监测性持续下降,人们对当前监控系统的信心可能会大幅降低。OpenAI将模型对齐视为首要防护手段,监控则用于提供可见性并构成额外防护层,而非替代模型对齐。
治理与信息披露旨在发现这些阶段中出现的问题。任何员工都可以标记不一致事件,以便公开披露;对于是否向外界披露存在分歧时,问题会升级至安全咨询小组。阶段判定也可以交由该小组复核,并由 OpenAI Foundation 董事会的安全与安保委员会监督。
因此,运营纪律是这一框架的核心。OpenAI 的记录显示,沙盒规则可能被绕过,自动停止机制可能失灵,监控人员也可能漏掉某些行为,或未能给予足够重视;阶段审查旨在确保这些弱点在未经再次审查相关证据的情况下,不会被带入更大范围的部署。












