ES ▾
SNAPE REP RT Portada →
ConfirmadoSeguridad de la IA20 nov, 19:33 UTC

OpenAI dice que nuevas salvaguardas bajan del 54% al 0,2% el éxito de ataques para extraer razonamiento

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

En una prueba interna de red teaming, los ataques recuperaron la cadena de pensamiento protegida el 54,0% de las veces en GPT-6 Astra con las salvaguardas originales y el 0,2% en GPT-6.2 Astra; OpenAI dice además que sus acciones semanales contra campañas de destilación han afectado a entre miles y decenas de miles de cuentas. Las cifras no se han verificado de forma independiente.

Leer en TokenPost Compartir

Por qué importa

Los laboratorios tratan cada vez más la destilación como un problema de seguridad y no solo de propiedad intelectual: un modelo alumno entrenado con las respuestas de un modelo de frontera puede heredar capacidades de doble uso en ciberseguridad o biología sin sus salvaguardas. OpenAI dice que proteger las trazas exactas de razonamiento limitó la transferencia de capacidades cibernéticas en su estudio interno. Antes informó al Congreso sobre destilación de DeepSeek y en septiembre atribuyó una campaña a personas vinculadas a Moonshot AI. Atención a nuevas revelaciones.

Datos clave

  • El éxito de los ataques bajó del 54,0% (GPT-6 Astra) al 0,2% (GPT-6.2 Astra)
  • Protecciones en GPT-6.2 Astra y GPT-6.2 Sol
  • Acciones semanales: de miles a decenas de miles de cuentas
  • Septiembre: campaña atribuida a personas ligadas a Moonshot AI
  • OpenAI comparte indicadores de compromiso con otros proveedores

Fuentes

Más sobre Seguridad de la IA
Más de Snape ReportPortada →