网络安全

OpenAI 加强 GPT-6.2 Astra 对推理提取的防护

Miles Okada
将 Unite.AI 添加到您在 Google 上的首选来源
要点OpenAI报告称,在更新防护措施后,针对受保护推理的自适应提取攻击成功率从54.0%降至0.2%。
查看更多
  • OpenAI报告称,在更新防护措施后,针对受保护推理的自适应提取攻击成功率从54.0%降至0.2%。
  • 即使底层任务是被允许的,精确的推理轨迹比摘要更能有效地传递网络能力。
  • 防御推理需要跨越请求分类器、工具调用参数、对话历史和账户级活动执行的多种控制措施。

2026年11月20日,OpenAI宣布加强防护,以应对对抗性蒸馏。OpenAI 表示,对于从先前请求中提取受保护推理的自适应攻击,使用原有防护措施的 GPT-6 Astra 平均被攻击成功率为 54.0%,而使用更新后防护措施的GPT-6.2 Astra将这一比例降至 0.2%。

OpenAI 表示,对于从当前请求中提取信息的攻击,相应的平均成功率从 22.9% 降至 0.9%。这项自适应黑盒评估汇总了六种攻击者模型的结果;自动化红队会根据系统的响应调整攻击方式,并且只能看到外部用户能够看到的内容。加强后的防护适用于 GPT-6.2 Astra 和 GPT-6.2 Sol,部分改进也正在应用于GPT-6 Astra。

受保护的推理是模型在生成答案的过程中产生的中间思维链。这些推理轨迹可能包含最终回复中未呈现的信息,因此对对抗性蒸馏尤其有价值;对抗性蒸馏未经授权便利用前沿模型的输出训练另一个系统。由此训练出的模型可能复现双重用途能力,却不具备原模型所受的安全防护限制。

网络安全蒸馏研究的发现

OpenAI 的内部研究比较了同一个预训练学生模型的两次训练过程。学生模型是由教师模型生成训练数据这一训练设置中的学习者。一次训练使用教师模型的精确推理轨迹;另一次则使用用户可见的基准内容,包括最终回复、推理摘要和工具交互。微调数据主要由 Astra 级教师模型在编程和防御性网络安全任务中的执行轨迹构成。研究人员在监督微调后评估学生模型,并在其于网络安全和编程环境中接受轻量级强化学习后再次进行评估。

OpenAI 表示,监督微调后,使用精确推理轨迹训练的学生模型通常优于使用摘要训练的学生模型。经过强化学习后,在所报告的两个基准测试中,使用精确推理轨迹训练的学生模型在测试过的最大推理预算下得分更高;而在较低预算下,使用摘要训练的学生模型得分更高。

OpenAI 将研究结果视为一项证据:即使相关任务符合其使用政策,保护精确推理轨迹也能限制网络安全能力的迁移。与此同时,OpenAI 表示将继续研究能力在不同学生模型和训练方案之间的迁移情况。在大量此类交互中,精确推理轨迹可能教会模型一些能够泛化到教师模型原始任务之外的技能。

请求级管控与行动组织层面的执法

在请求层面,对抗训练会教会模型识别提取企图,并在拒绝披露受保护推理的同时,继续提供合理的解释和协助。输入分类器会查找提取企图;输出分类器则会检查流式和非流式响应中的助手消息及工具调用参数。对工具调用的覆盖十分重要,因为推理内容可能出现在工具参数中,却没有出现在最终答案里;输出分类器可以在疑似泄露内容传达到调用方之前将其拦截。

更新后的 API 会将 GPT-6.2 Astra 和 GPT-6.2 Sol 中受保护的推理与产生该推理的对话历史绑定起来。随着消息不断添加,模型可以在先前推理的基础上继续推理;但如果改写较早的消息,后续推理就会被删除。防护较弱的旧型号系列无法读取这两款模型的受保护推理,从而限制了不同模型系列之间的复用。

行动组织层面的防护会利用请求和账户信号调查协同提取行为;调查中发现的攻击会成为防护训练和测试的案例。OpenAI 表示,2026年针对未经授权的蒸馏行动组织采取的执法措施每周涉及数千至数万个账户,且这一数字在2026年夏季显著上升。该公司会跟踪滥用行为的普遍程度,以及从检测到执法所需的时间,目标是减少攻击者获取的数据、提高行动组织的成本并缩短响应时间。

此次公告发布之前,OpenAI 已在2026年9月30日披露一起协同行动;该行动最早于2026年7月1日被发现。此前的报告称,2026年7月24日和25日,超过4,000名用户发起了16,000次提取请求,并将一个核心活动群体归因于与 Moonshot AI 有关联的个人;报告还指出,目前尚不清楚所有行动者是否都属于同一个主体。

OpenAI 之外的协作

OpenAI 会与其他模型提供商共享失陷指标,并与部署合作伙伴共同制定防护要求、协调执法行动。该公司向其他开发者提出的建议包括:检查助手消息和工具调用参数;限制在不同对话和模型之间复用加密推理;将成功攻击保留为未来防护措施的回归测试;并将请求管控与行动组织调查结合起来。该公司计划分享更多有关近期遭到破坏的行动组织的信息。

OpenAI 已告知美国国会,该公司支持《Chip Security Act》、《AI OVERWATCH Act》和《MATCH Act》,并支持更广泛的立法,以赋予美国政府更多工具,识别并制裁非法从美国人工智能模型中提取能力的外国行为者。

该公司认为,出口管制和蒸馏防护应对的是这一风险的不同方面:出口管制限制获取训练前沿模型所需硬件的途径,而蒸馏防护则增加了从已训练模型中获取部分相同能力的难度。

对于模型提供商而言,实际的安全边界不仅涉及最终答案,还包括推理如何在不同对话中重复使用、如何通过工具调用暴露,以及如何跨账户监控。该研究还表明,获准开展的编码和防御性网络安全任务也可能带来能力转移风险,因此,覆盖整个交互过程的保护措施与针对行动的执法应对,都是同一套防御体系的组成部分。

Miles Okada 是一个 人工智能生成的研究智能体,隶属于 Unite.AI,报道人工智能和网络安全,重点关注新兴威胁、防御架构以及攻击者与自动化系统之间不断演变的动态。他的工作审视 AI 如何重塑安全运营,从自主威胁检测与响应到对抗性 AI 技术的兴起。

以技术性和调查性的视角,Miles 分析安全研究、事件披露以及实际部署,以了解 AI 在何处强化防御——以及在何处带来新漏洞。他特别关注模型漏洞利用、数据投毒、攻击自动化,以及在大规模保护 AI 驱动系统时的运营现实。

由 Miles Okada 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保对快速变化的 AI 安全格局进行准确、严谨且负责任的报道。