OpenAI affirme que de nouvelles protections font passer de 54 % à 0,2 % le succès des attaques d'extraction

Lors d'un test interne de red teaming, les attaques ont récupéré la chaîne de pensée protégée dans 54,0 % des cas sur GPT-6 Astra avec les protections d'origine et 0,2 % sur GPT-6.2 Astra ; OpenAI dit aussi que ses mesures hebdomadaires contre les campagnes de distillation visent de milliers à des dizaines de milliers de comptes. Les chiffres n'ont pas été vérifiés de façon indépendante.
Pourquoi c’est important
Les laboratoires traitent de plus en plus la distillation comme un problème de sécurité et pas seulement de propriété intellectuelle : un modèle élève entraîné sur les sorties d'un modèle de pointe peut hériter de capacités à double usage, en cybersécurité ou en biologie, sans ses protections. OpenAI dit que protéger les traces de raisonnement exactes a limité le transfert de capacités cyber dans son étude interne. Il avait informé le Congrès sur la distillation par DeepSeek et attribué en septembre une campagne à des proches de Moonshot AI. D'autres révélations sont annoncées.
Faits clés
- Succès des attaques passé de 54,0 % (GPT-6 Astra) à 0,2 % (GPT-6.2 Astra)
- Protections sur GPT-6.2 Astra et GPT-6.2 Sol
- Mesures hebdomadaires : de milliers à des dizaines de milliers de comptes
- Septembre : campagne attribuée à des proches de Moonshot AI
- OpenAI partage des indicateurs de compromission avec d'autres fournisseurs