Anthropic 发布 FlashProve:由 Claude 构建、可证明回答出自哪个模型的系统

该 zkSNARK 原型在单张 H100 上以约每秒 110 个 token 为 Llama 4 Maverick 的输出生成证明,GPU 耗时约为常规推理的 70 至 95 倍,代码和技术报告已发布。
为何重要
如今用户无法核实回答是否真的来自服务商声称的模型,而非更便宜的替代模型或被篡改的 token 流。Anthropic 表示,推理的密码学证明可在隐藏权重的同时解决这一问题,并可能有助于核查 AI 节奏要求的合规情况。该系统比以往开源证明系统快得多,大量优化由 Claude 完成,安全保证以 Lean 形式表述以便审计。悬而未决的是开销能否降到足以日常使用的程度。
要点
- Llama 4 Maverick(400B MoE)在单张 H100 上约每秒 110 个 token
- 每个 1,024 token 请求的证明约 19 MB
- GPU 耗时约为 vLLM 运行模型的 70-95 倍
- 安全保证以 Lean 表述
- 发布五项成果,包括代码和技术报告