OpenAI 称新防护将推理链提取攻击成功率从 54% 降至 0.2%,以对抗对抗性蒸馏

在内部红队测试中,针对使用原始防护的 GPT-6 Astra,攻击有 54.0% 的概率恢复受保护的思维链,而 GPT-6.2 Astra 仅为 0.2%;OpenAI 还称其每周针对蒸馏活动的执法涉及数千至数万个账户。上述数据未经独立验证。
为何重要
各实验室越来越把蒸馏视为安全问题,而不仅是知识产权问题:用前沿模型输出训练的学生模型,可能在网络安全和生物等领域继承两用能力,却没有原模型的防护。OpenAI 称,在其内部研究中,保护精确的推理轨迹限制了网络能力的转移。该公司此前曾向国会通报 DeepSeek 的蒸馏行为,并在 9 月将一次行动归因于与月之暗面(Moonshot AI)有关的人员。OpenAI 表示将很快披露更多案例。
要点
- 攻击成功率从 54.0%(GPT-6 Astra)降至 0.2%(GPT-6.2 Astra)
- 防护覆盖 GPT-6.2 Astra 与 GPT-6.2 Sol
- 每周执法涉及数千至数万个账户
- 9 月:一次行动归因于与 Moonshot AI 有关的人员
- OpenAI 与其他提供商共享入侵指标