跳到正文

从 54% 到 0.2%:OpenAI 给 GPT-6.2 的推理上了锁

OpenAI 公开反蒸馏打法:GPT-6.2 的推理提取攻击成功率从 54.0% 降到 0.2%,每周封禁数千到数万个蒸馏账号,并点名 DeepSeek 与 Moonshot。

小杜

约 6 分钟读完

从 54% 到 0.2%:OpenAI 给 GPT-6.2 的推理上了锁

2026 年 11 月 20 日,OpenAI 公开了一套反“对抗蒸馏”的完整打法:针对 GPT-6.2 Astra 和 GPT-6.2 Sol 的新防护,让攻击者从模型手里偷走“受保护推理过程”的成功率,在内部自适应红队测试里从 54.0% 掉到了 0.2%。这不是一次普通的安全升级——它针对的是前沿模型能力外泄最隐蔽的一条路:不偷答案,偷模型是怎么想到的。

先说一句提醒:下面所有成功率数字都来自 OpenAI 自己的内部评估,不是第三方独立验证,读的时候要带着这个前提。

对抗蒸馏:偷的不是答案,是能力本身

蒸馏本身是机器学习里的常规技术:一个模型(学生)向另一个模型(老师)输出的数据学习,学它的答案、推理,或者它对哪个答案更好的判断。问题出在“未经授权”这四个字上。攻击者拿前沿模型的输出去训练另一个能力相近的模型,部署时却不带原模型的安全防护。原模型会拒绝帮忙的事,蒸馏出来的模型可能照做不误。更麻烦的是,这条路不需要拿到模型权重,只要能持续调用 API、攒够输出就行。

OpenAI 把风险点得很具体:双用途领域最危险。一个能帮防守方找软件漏洞的模型,也能帮攻击方利用漏洞;一个能辅助生物研究的模型,也可能帮人搞出有害病原体。能力一旦被转移到防护更弱的模型上,原模型的拒绝机制就等于被绕过去了。

为什么最值钱的是思维链

这篇博客花了最大篇幅讲一个判断:要防蒸馏,关键不是防答案,而是防“受保护的推理过程”——也就是模型在给出答案之前内部生成的一连串中间步骤,也就是常说的思维链。这些中间步骤里往往包含最终答案没写出来的信息,拿去当训练数据,价值比答案本身高得多。

OpenAI 做了一个内部对照实验来支撑这个判断。设定很干净:同一个预训练好的学生模型,两组训练数据都主要来自 Astra 级别老师模型在编码和防御性网络安全任务上的完整轨迹。唯一的区别是,一组能看到老师原样的推理过程,另一组只能看到推理摘要。

结果是:监督微调之后,学原样推理的学生模型普遍优于学摘要的学生;强化学习之后,在测试的最大推理预算下,原样推理组在两个基准上仍然领先。OpenAI 的结论很克制,但意思明确:保护推理过程,确实能限制网络能力的外泄——哪怕老师做的本来就是合规任务,大量交互攒下来,原样推理也能教会学生超出原任务范围的通用技能。摘要可以给用户看,原样推理必须锁起来。

两层防线:请求级堵单点,战役级打团伙

OpenAI 的防护分两层,互相补位。

请求级防线管每一次调用,有三件套。第一是对抗训练:教模型识别推理提取的尝试并拒绝披露受保护的推理,同时不影响对合理解释请求的正常回答;训练样本来自内部自动化红队打穿的攻击、调查发现和外部研究者负责任的披露。第二是分类器:输入分类器识别提取企图,输出分类器检查回答和工具调用参数里是否泄露了受保护的推理——覆盖流式和非流式响应。工具调用参数这点值得注意:模型完全可能不在最终答案里写推理,却把它塞进工具参数里。第三是 API 层面的控制:GPT-6.2 Astra 和 Sol 把受保护的推理绑定到产生它的对话历史里;如果改写了之前的消息,API 会丢掉其后的推理;更老的、防护较弱的模型家族也读不到 GPT-6.2 的受保护推理。

战役级防线管成规模的团伙。系统从请求级信号和账号级信号里找协同提取的模式,查到违规就按政策和服务条款对整个账号网络执法。每一轮调查的发现会反哺防御:变成训练和测试素材,还会把入侵指标分享给其他模型厂商。

数字怎么来的:54.0% 变 0.2%

衡量防护效果,OpenAI 用了静态评估和自适应评估两套方法。静态评估是把过去打穿过防护的攻击重放一遍,看现在还漏不漏;自适应评估是让自动化 AI 红队根据系统反应实时调整打法,专挖静态测试看不到的弱点。

关键数字来自自适应黑盒评估——攻击者只有外部用户能看到的信息,要恢复模型在之前某次请求、或当前请求中生成的受保护推理。结果是两行对比:

  • 从之前的请求里提取推理:GPT-6 Astra(原有防护)的平均攻击成功率是 54.0%,GPT-6.2 Astra(更新后防护)是 0.2%。
  • 从当前请求里提取推理:22.9% 降到 0.9%。

两类攻击在 GPT-6.2 Astra 上的平均成功率都低于 1%,汇总自六个攻击者模型。OpenAI 说,正在把部分防护改进也应用到 GPT-6 Astra 上。

GPT-6.2 Astra 推理提取攻击成功率对比

数字很亮眼,但要放在正确的位置上理解:这是厂商自己的红队、在自己的评估集上、用自己的攻击者模型跑出来的结果,样本量、攻击者查询预算、误报率这些细节文章没有公开。它证明的是“这套防护对已知的自适应攻击有效”,不是“推理提取问题已经解决”。

每周封几万个账号:这已经是常态化执法

防护之外是执法。OpenAI 说,今年平台上已经出现多起未经授权的对抗蒸馏活动,9 月份分享过初步发现。每周针对这些活动的执法行动,规模从数千到数万个账号不等,而且今年夏天以来频率“显著上升”。

文章还把这件事抬到了国家安全层面。2 月份,OpenAI 向美国国会通报了 DeepSeek 试图蒸馏美国前沿模型的活动迹象;9 月份报告打掉的一起提取受保护推理的活动,核心部分被归因于与 Moonshot AI(Kimi 的开发商)有关联的个人。OpenAI 表示支持能让美国政府更有力识别和制裁非法提取外国行为者的立法,并点名支持了《芯片安全法案》、AI OVERWATCH 法案和 MATCH 法案。

小杜点评

这篇博客最值得工程师带走的不是 54% 到 0.2% 这个数字——厂商自测的数字永远要打折扣再看——而是它把“推理过程”正式确立为需要单独保护的资产。过去大家谈模型安全,谈的是输出过滤和拒绝;现在 OpenAI 讲清楚了:思维链本身就是高价值训练数据,摘要和原样推理的暴露面完全不同,API 设计时就得分开处理。

对我们这些调用 API 的人,有两个直接影响。第一,推理过程被绑到对话历史、改写消息就丢推理的做法,意味着依赖“编辑历史复用推理”的奇技淫巧会越来越不可靠,别把业务逻辑建在这种行为上。第二,OpenAI 把工具调用参数也纳入输出分类器的检查范围,提醒我们:Agent 的工具参数同样是敏感信息的泄露通道,自己的 Agent 日志和中间结果也得按这个标准管。

参考来源

  • OpenAI 官方博客《Combatting adversarial distillation》,2026 年 11 月 20 日:https://openai.com/index/combatting-adversarial-distillation/
  • The Decoder《OpenAI makes it much harder for attackers to extract how its latest AI models think》:https://the-decoder.com/openai-makes-it-much-harder-for-attackers-to-extract-how-its-latest-ai-models-think/
  • Unite.AI《OpenAI Strengthens GPT-6.2 Astra Against Reasoning Extraction》:https://www.unite.ai/openai-strengthens-gpt-6-2-astra-against-reasoning-extraction/

评论

正在确认登录状态…