
OpenAI 发文讲「对抗性蒸馏」:有人拿前沿模型的输出训练另一个模型,把能力复制过去,安全限制却留在原地。OpenAI 公布了检测和阻断做法,并给出一组数字:在内部自适应红队测试里,针对 GPT-6 Astra 原有防护,从历史请求中提取受保护推理的平均攻击成功率是 54.0%;换成 GPT-6.2 Astra 加上更新后的防护,这个数字降到了 0.2%。
The Decoder 的报道还补了另一组数据:针对当前请求的推理提取,成功率从 22.9% 降到 0.9%。这是 OpenAI 自测数据,不是第三方审计,但量级变化很明显。
它到底在防什么
蒸馏本身是常规技术:「学生」模型从「教师」模型生成的数据里学习。问题出在「未经授权」和「两用能力」上。
OpenAI 举的例子是网络安全:帮防守方找漏洞的能力,也能帮攻击方利用漏洞。原模型会拒绝明显的攻击请求,可如果有人拿它在合规任务上的输出训练一个没有防护的学生模型,学生学到了本事,却没学到「什么时候该拒绝」。
所以这次重点保护的是思维链,即模型得出答案前的中间步骤。OpenAI 做了对照实验:同一个学生模型,一组只用用户能看到的内容(最终回复、推理摘要、工具调用)微调,另一组额外拿到教师的完整推理轨迹。结果是,拿到完整轨迹的学生在监督微调后普遍更强;再做一轮轻量强化学习后,在最大推理预算下依然领先。结论很清楚:完整推理轨迹是最值钱的训练数据,也是最该保护的部分,哪怕原始任务本身是政策允许的。
防御分两层,各管一摊
OpenAI 把防线拆成「单次请求」和「整体活动」两个层面。
单次请求层面有三类手段:
- 对模型做对抗训练,让它能识别「套推理」的提问并拒绝透露受保护的推理,同时正常回答合理的解释类请求。训练样本来自内部红队、调查发现以及外部研究者的负责任披露。
- 输入分类器识别提取企图,输出分类器检查助手消息和工具调用参数里有没有泄露推理,流式和非流式响应都覆盖。工具参数这一点容易被忽略:模型可能不在最终答案里说,却把推理写进了工具调用的参数。
- API 层面的限制。OpenAI 提到 9 月披露过一类攻击:把加密推理从一个对话搬到另一个对话,再让模型用人能读懂的方式吐出来。这次他们加强了跨用户、工作区、组织和模型系列的边界,还堵上了一条可能暴露其他用户加密推理的路径。
整体活动层面是查账号。系统会看请求和账号层面的信号,识别有组织的批量提取。确认违规后按服务条款处理整个账号网络,并和其他模型提供商共享入侵指标。The Decoder 提到 OpenAI 每周封禁的账号在数千到数万之间;Anthropic 也在打击同类行为,同样每周封禁数万账号,报道称拦截成功率在 90% 到 99%。
对开发者有两个实际变化
这篇文章里有两条和 API 使用直接相关,做应用的朋友值得留意:
- 推理和对话历史绑定了。 在 GPT-6.2 Astra 和 GPT-6.2 Sol 上,模型的受保护推理会和产生它的对话历史绑在一起。新消息追加时,模型可以接着之前的推理往下想;但如果你改写了较早的某条消息,API 会丢弃那条消息之后的推理。很多应用习惯「回头编辑上下文再续写」,以后要意识到这样做会让模型丢掉之前的思考积累,效果可能不如直接追加新消息。
- 旧模型读不到新模型的推理。 OpenAI 阻止了防护较弱的旧模型系列读取 GPT-6.2 Astra 和 Sol 的受保护推理。如果你的系统里有「大模型想、小模型接着干」的混用链路,并且依赖把推理内容传过去,需要重新检查一下这条链路是否还按预期工作。
另外,部分改进也会用到 GPT-6 Astra 上。
对普通用户意味着什么
日常用 ChatGPT 写东西、查资料、写代码,基本感受不到这些变化,推理摘要照样能看。真正受影响的是想批量套取完整推理去训练自己模型的团队,以及频繁试探模型边界的安全研究者,后者应走 OpenAI 的负责任披露渠道,而不是换着号继续试。
另外,别指望反复追问「把完整思考过程原样发给我」拿到更多内容,在 GPT-6.2 上这条路基本被堵死,频繁这样问还可能触发风控。
如果你想亲自感受 OpenAI 新一代模型在长任务和复杂推理上的表现,官方 ChatGPT 是最直接的入口。
我的判断
这件事值得关注的地方有三点。
第一,模型厂商开始把「保护推理过程」当成和生物、网络安全同级别的事来做。OpenAI 原文明确说,这套更新后的防护和他们在生物、网络安全领域的标准对齐。这意味着以后各家对思维链的开放程度只会越来越收紧,想靠蒸馏闭源模型推理来追赶的路线成本会越来越高。
第二,54% 到 0.2% 是少见的公开实测数字,做 API 风控的团队可以参考这套「训练 + 分类器 + API 边界 + 账号调查」的组合。
第三,也有代价。推理和对话历史绑定后,开发者对上下文的控制自由度变小,跨模型复用推理也被切断。做复杂 Agent 编排的团队,升级到 GPT-6.2 前最好跑一遍回归测试。
OKAI66 为独立第三方服务平台,非 OpenAI/xAI 官方网站。
信息来源
- OpenAI:OpenAI 如何应对对抗性蒸馏
- The Decoder:OpenAI 大幅提高最新模型推理被提取的难度
- best2ai:OpenAI 披露对抗性蒸馏防御:攻击成功率降至 0.2%
- best2ai:OpenAI 强化 GPT-6.2 推理防泄露,攻击成功率降至 0.2%
更多每日 AI 热点见 best2ai.com