ZH ▾
SNAPE REP RT 头版 →
已证实AI 安全11月03日 02:59 UTC

Anthropic 发布 FlashProve:由 Claude 构建、可证明回答出自哪个模型的系统

Anthropic's illustration for its post on provable inference for large language models
Anthropic

该 zkSNARK 原型在单张 H100 上以约每秒 110 个 token 为 Llama 4 Maverick 的输出生成证明,GPU 耗时约为常规推理的 70 至 95 倍,代码和技术报告已发布。

在 Anthropic 阅读全文 分享

为何重要

如今用户无法核实回答是否真的来自服务商声称的模型,而非更便宜的替代模型或被篡改的 token 流。Anthropic 表示,推理的密码学证明可在隐藏权重的同时解决这一问题,并可能有助于核查 AI 节奏要求的合规情况。该系统比以往开源证明系统快得多,大量优化由 Claude 完成,安全保证以 Lean 形式表述以便审计。悬而未决的是开销能否降到足以日常使用的程度。

要点

  • Llama 4 Maverick(400B MoE)在单张 H100 上约每秒 110 个 token
  • 每个 1,024 token 请求的证明约 19 MB
  • GPU 耗时约为 vLLM 运行模型的 70-95 倍
  • 安全保证以 Lean 表述
  • 发布五项成果,包括代码和技术报告

来源

更多AI 安全报道
Snape Report 更多报道头版 →