Anthropic publie FlashProve, un système conçu avec Claude qui prouve quel modèle a produit une réponse
Le prototype zkSNARK prouve des sorties de Llama 4 Maverick à environ 110 jetons par seconde sur une H100, soit 70 à 95 fois le temps GPU d'une inférence normale ; code et rapport technique publiés.
Pourquoi c’est important
Aujourd'hui, un utilisateur ne peut pas vérifier qu'une réponse vient du modèle annoncé et non d'un substitut moins cher ou d'un flux de jetons altéré. Anthropic estime que les preuves cryptographiques d'inférence règlent ce problème tout en masquant les poids, et pourraient aider à vérifier le respect d'exigences de rythme de l'IA. Le système est bien plus rapide que les prouveurs open source antérieurs ; Claude a mené une grande partie de l'optimisation, et les garanties de sécurité sont énoncées en Lean pour être auditées. Reste à savoir si le surcoût baissera assez pour un usage courant.
Faits clés
- Environ 110 jetons par seconde sur une seule H100 pour Llama 4 Maverick (MoE de 400B)
- Preuve d'environ 19 Mo par requête de 1 024 jetons
- Environ 70 à 95 fois le temps GPU de l'exécution sur vLLM
- Garanties de sécurité énoncées en Lean
- Cinq artefacts publiés, dont le code et un rapport technique