FR ▾
SNAPE REP RT À la une →
ConfirméSûreté de l'IA20 nov., 19:33 UTC

OpenAI affirme que de nouvelles protections font passer de 54 % à 0,2 % le succès des attaques d'extraction

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

Lors d'un test interne de red teaming, les attaques ont récupéré la chaîne de pensée protégée dans 54,0 % des cas sur GPT-6 Astra avec les protections d'origine et 0,2 % sur GPT-6.2 Astra ; OpenAI dit aussi que ses mesures hebdomadaires contre les campagnes de distillation visent de milliers à des dizaines de milliers de comptes. Les chiffres n'ont pas été vérifiés de façon indépendante.

Lire sur TokenPost Partager

Pourquoi c’est important

Les laboratoires traitent de plus en plus la distillation comme un problème de sécurité et pas seulement de propriété intellectuelle : un modèle élève entraîné sur les sorties d'un modèle de pointe peut hériter de capacités à double usage, en cybersécurité ou en biologie, sans ses protections. OpenAI dit que protéger les traces de raisonnement exactes a limité le transfert de capacités cyber dans son étude interne. Il avait informé le Congrès sur la distillation par DeepSeek et attribué en septembre une campagne à des proches de Moonshot AI. D'autres révélations sont annoncées.

Faits clés

  • Succès des attaques passé de 54,0 % (GPT-6 Astra) à 0,2 % (GPT-6.2 Astra)
  • Protections sur GPT-6.2 Astra et GPT-6.2 Sol
  • Mesures hebdomadaires : de milliers à des dizaines de milliers de comptes
  • Septembre : campagne attribuée à des proches de Moonshot AI
  • OpenAI partage des indicateurs de compromission avec d'autres fournisseurs

Sources

À lire aussi : Sûreté de l'IA
Plus de Snape ReportÀ la une →