Anthropic、応答を生成したモデルを証明するClaude製システムFlashProveを公開
このzkSNARKプロトタイプは1枚のH100でLlama 4 Maverickの出力を毎秒約110トークンで証明し、GPU時間は通常推論の約70〜95倍。コードと技術報告も公開された。
なぜ重要か
現在、利用者は回答が事業者の主張するモデルから出たのか、安価な代替モデルや改ざんされたトークン列なのかを確認できない。Anthropicは、推論の暗号学的証明が重みを隠したままこの問題を解決し、AIの開発ペース要件の遵守確認にも役立ち得るとする。システムは従来のオープンソース証明器より大幅に高速で、最適化の多くをClaudeが担い、安全性の主張は監査可能なようLeanで記述された。課題はオーバーヘッドが日常利用に耐える水準まで下がるかどうかだ。
要点
- Llama 4 Maverick（400B MoE）で1枚のH100あたり毎秒約110トークン
- 1,024トークンのリクエストあたり証明サイズ約19MB
- vLLMでのモデル実行の約70〜95倍のGPU時間
- 安全性の主張をLeanで記述
- コードと技術報告を含む5つの成果物を公開