OpenAI diz que novas salvaguardas reduzem de 54% para 0,2% o sucesso de ataques de extração de raciocínio

Em um teste interno de red teaming, os ataques recuperaram a cadeia de raciocínio protegida em 54,0% das vezes no GPT-6 Astra com as salvaguardas originais e em 0,2% no GPT-6.2 Astra; a OpenAI diz ainda que suas ações semanais contra campanhas de destilação atingiram de milhares a dezenas de milhares de contas. Os números não foram verificados de forma independente.
Por que importa
Os laboratórios tratam cada vez mais a destilação como um problema de segurança, e não só de propriedade intelectual: um modelo aluno treinado com as respostas de um modelo de fronteira pode herdar capacidades de uso duplo em cibersegurança ou biologia sem suas salvaguardas. A OpenAI diz que proteger os rastros exatos de raciocínio limitou a transferência de capacidades cibernéticas em seu estudo interno. Ela já informou o Congresso sobre destilação da DeepSeek e em setembro atribuiu uma campanha a pessoas ligadas à Moonshot AI. Novas revelações foram prometidas.
Fatos principais
- Sucesso dos ataques caiu de 54,0% (GPT-6 Astra) para 0,2% (GPT-6.2 Astra)
- Proteções no GPT-6.2 Astra e no GPT-6.2 Sol
- Ações semanais: de milhares a dezenas de milhares de contas
- Setembro: campanha atribuída a pessoas ligadas à Moonshot AI
- OpenAI compartilha indicadores de comprometimento com outros provedores