ZH ▾
SNAPE REP RT 头版 →
已证实AI 安全11月20日 19:33 UTC

OpenAI 称新防护将推理链提取攻击成功率从 54% 降至 0.2%,以对抗对抗性蒸馏

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

在内部红队测试中,针对使用原始防护的 GPT-6 Astra,攻击有 54.0% 的概率恢复受保护的思维链,而 GPT-6.2 Astra 仅为 0.2%;OpenAI 还称其每周针对蒸馏活动的执法涉及数千至数万个账户。上述数据未经独立验证。

在 TokenPost 阅读全文 分享

为何重要

各实验室越来越把蒸馏视为安全问题,而不仅是知识产权问题:用前沿模型输出训练的学生模型,可能在网络安全和生物等领域继承两用能力,却没有原模型的防护。OpenAI 称,在其内部研究中,保护精确的推理轨迹限制了网络能力的转移。该公司此前曾向国会通报 DeepSeek 的蒸馏行为,并在 9 月将一次行动归因于与月之暗面(Moonshot AI)有关的人员。OpenAI 表示将很快披露更多案例。

要点

  • 攻击成功率从 54.0%(GPT-6 Astra)降至 0.2%(GPT-6.2 Astra)
  • 防护覆盖 GPT-6.2 Astra 与 GPT-6.2 Sol
  • 每周执法涉及数千至数万个账户
  • 9 月:一次行动归因于与 Moonshot AI 有关的人员
  • OpenAI 与其他提供商共享入侵指标

来源

更多AI 安全报道
Snape Report 更多报道头版 →