OpenAI把推理链防护推进到API层

2026.11.21 10:07
OpenAI宣布升级GPT-6.2 Astra与GPT-6.2 Sol的对抗性蒸馏防护。在其内部自适应黑盒红队测试中,早先请求推理的平均提取成功率从54.0%降至0.2%,当前请求提取率从22.9%降至0.9%。这场攻防的核心,不只是防止答案泄露,而是阻止前沿模型能力在缺少原有安全边界的情况下被复制和迁移。

大模型最难守住的,可能不是答案,而是答案背后的能力来源。

11月20日,OpenAI公布了针对对抗性蒸馏的新一轮防护升级,覆盖GPT-6.2 Astra与GPT-6.2 Sol。公司在一项内部自适应黑盒红队评估中称,攻击者试图提取模型受保护推理的成功率显著下降。针对早先请求生成的推理,GPT-6 Astra原有防护下的平均攻击成功率为54.0%,GPT-6.2 Astra更新防护后降至0.2%;针对当前请求的提取率则从22.9%降至0.9%。这组测试结果汇总自6个模型型攻击者。

数字的冲击力不只在于下降幅度。它揭示了前沿模型竞争的一条新战线,模型厂商开始把API当成能力供应链的闸门,防止更强模型的推理过程被批量搬运到另一个模型,却不同时搬走原有的安全边界。

从模型输出到能力供应链

蒸馏本身并不是恶意技术。传统意义上的知识蒸馏,是让学生模型学习教师模型的输出,从而在更小规模或更低成本下复现部分能力。研究机构和企业长期使用这种方式压缩模型、优化推理或构建专用模型。

问题出在“未经授权的对抗性蒸馏”。攻击者不再满足于使用模型完成任务,而是通过大量设计过的请求,系统性收集教师模型的答案、拒答边界和工具调用模式,甚至试图获得受保护的内部推理,再把这些数据用于训练或改进另一个模型。目标不是复制一段答案,而是复制一套能力。

OpenAI在GPT-6.2 Astra与Sol系统卡片中,将隐藏链式思考,也就是模型处理任务时生成的内部推理,列为重点保护对象。最终答案通常是经过筛选后的结果,受保护推理则可能包含任务分解、错误修正和边界判断等更丰富的信息。对于试图训练学生模型的攻击者而言,这类信息具有潜在的训练价值。

风险在于,教师模型的能力和安全机制并不是天然不可分割的整体。攻击者可能试图转移“如何完成任务”的能力,却不转移“哪些任务不应完成”的约束。这样一来,前沿模型上原本被安全策略拦截的部分能力,可能在防护更弱的学生模型中重新出现。网络安全、生物风险和自动化代理等双用途领域,尤其需要关注这种能力与安全边界不同步迁移的可能性。

这次防护不是简单增加拒答

如果只在模型层面加入“不要泄露推理过程”的指令,防护很容易变成一场提示词攻防。攻击者可以改变语气、拆分任务、伪装成调试流程,也可以把提取动作藏在工具调用和多轮上下文中。

OpenAI披露的方案覆盖请求级和活动级两个层面。请求级防护包括对抗性训练、输入分类器和输出分类器,用于识别可能的推理提取请求,并检查回答、助手消息以及工具调用参数是否出现泄露。对于流式输出,系统还增加了可能暴露私有推理时暂缓响应的检查。

更关键的变化发生在API会话层。OpenAI表示,GPT-6.2 Astra与Sol会把受保护推理绑定到生成它的会话历史。新消息可以建立在早先推理之上,但如果早先消息被改写,API会丢弃其后产生的推理。公司还限制较早模型系列读取GPT-6.2 Astra与Sol的受保护推理。

受保护推理因此不再像一段可以随意复制、转发和粘贴的文本,而更像一项绑定了来源、上下文和权限的临时资产。攻击者即使拿到部分接口响应,也未必能把它搬到另一个会话、另一个用户或另一个模型家族中继续使用。

这是一种从“模型拒绝回答”转向“系统限制能力迁移”的变化。前者主要针对内容风险,后者开始处理模型资产被批量复制的问题。

0.2%不是终点,而是攻防循环的一个节点

OpenAI给出的结果足够醒目,但阅读这组数字时仍要保留边界意识。

首先,这是一项内部自适应黑盒红队评估。黑盒意味着攻击者获得与外部用户相近的观察视角,自适应则意味着攻击者会根据防护变化调整策略。6个模型型攻击者覆盖了早先轮次推理和当前轮次推理两类提取场景。它比一次性的固定提示词测试更接近真实攻防,却仍然不是所有攻击方式、部署环境和时间尺度上的安全证明。

其次,0.2%和0.9%描述的是攻击成功率,不是风险归零。对普通内容生成而言,低于1%的成功率意味着大多数测试尝试没有成功;但对有组织的自动化攻击而言,只要请求规模足够大,少量成功样本仍可能形成可用训练数据。概率风险会被规模放大。

这也是OpenAI没有把防御停留在单个请求的原因。公司称,今年已经发现多起未经授权的对抗性蒸馏活动,并对相关账号网络进行调查和处置,每周执法行动涉及的账号规模从数千到数万个,去年夏季以来明显增加。这里的数字是OpenAI对自身执法行动的描述,并非外部机构对违规规模的独立统计。但从公司的披露看,相关活动至少呈现出需要按账号网络和活动模式处理的协调化特征。

在活动级防护中,平台会把请求层和账号层的信号放在一起,寻找协调提取的模式。一次看似普通的请求未必足以触发处置,但关联活动可能改变判断。被发现的成功提取尝试还会被保留为回归测试,用来训练分类器、改进防护,并反复验证更新后的系统。

攻防由此形成闭环。攻击者用模型攻击模型,平台则用攻击样本训练防线。

真正的竞争壁垒,正在从“会什么”变成“能复制多少”

过去,模型能力竞争常被简化为参数规模、训练数据、算力集群和基准成绩。对抗性蒸馏带来的变化是,模型的可复制性本身开始成为商业变量。

一家模型公司投入巨额算力和安全工程,训练出能处理复杂任务的模型。如果竞争者可以通过接口低成本获取大规模高质量输出,再用另一套训练流程压缩这些能力,那么前者投入的部分价值就可能通过API外泄。学生模型也不需要完整复刻教师模型,只要在某些高价值领域取得足够好的能力,就可能形成替代品。

这解释了为什么OpenAI把对抗性蒸馏称为安全问题,而不只是知识产权或服务条款问题。被复制的不只是产品答案,也可能是网络安全、生物风险和自动化代理等双用途领域的任务能力。如果安全边界没有同步迁移,能力转移就可能成为风险转移。

这也改变了API的产品定位。API不再只是按量出售模型输出的基础设施,它还必须承担身份、会话、权限、行为和供应链审计功能。一个真正安全的API,需要回答的不仅是“这个请求能不能回答”,还包括“这段推理能不能跨会话复用”“这个账号是否属于协调活动”“这个输出是否正在被系统性收集”。

对模型公司来说,这会带来更高的基础设施成本。分类器、风控系统、红队评估和人工调查都需要持续投入,而且防护越严格,越可能影响正常开发者的调试、评测和数据生成。误伤率、透明度与可解释性,都会成为商业化过程中的新摩擦。

对开发者来说,模型供应商的选择也不再只看价格、速度和上下文长度。推理是否可验证、会话是否可迁移、企业数据如何隔离、模型更新后行为是否稳定,都会进入采购和架构决策。那些依赖批量采集前沿模型输出、再训练自有模型的团队,需要重新评估服务条款、数据来源与模型治理风险。

行业会进入“共享指标”的防守时代

单个模型厂商很难独立解决对抗性蒸馏。攻击者可以在一家平台上试出方法,再把同一套策略迁移到其他平台。只要各家对攻击信号的定义不同,攻击活动就容易在防守缝隙中流动。

OpenAI表示将与行业伙伴共享攻击指标和经验。这个方向的价值,不在于把所有模型变成同一种防火墙,而在于让行业能够共享活动级线索和已验证的提取路径。它更接近网络安全领域的威胁情报协作,而不是单一公司的内容审核。

但共享也会带来边界问题。哪些指标可以共享,哪些数据涉及用户隐私和商业秘密,如何避免把正常的模型评测误判为攻击,谁来审查封禁决定,都会影响这套机制的可信度。若平台只公布封禁数量,却不解释判断标准,行业协作可能演变成缺乏申诉机制的黑名单体系。

因此,接下来的关键不只是成功率能否继续下降,而是防护能否在安全、开放和可审计之间建立平衡。模型公司需要保护自己的能力资产,也需要让合规开发者能够进行研究、评测和迁移。

OpenAI此次披露的最重要信号,是前沿模型的安全边界正在从模型内部延伸到整个使用链条。训练阶段的安全对齐不再足够,部署阶段的会话隔离、接口权限、账号调查和跨行业情报,都成为能力安全的一部分。

0.2%不是一个可以宣告胜利的终点,而是一个新的起点。未来真正决定模型护城河的,可能不是谁能把推理过程写得更长,而是谁能在提供能力的同时,控制能力被复制、迁移和滥用的速度。

作品声明:内容由AI生成