PT ▾
SNAPE REP RT Primeira página →
ConfirmadoSegurança da IA20 de nov., 19:33 UTC

OpenAI diz que novas salvaguardas reduzem de 54% para 0,2% o sucesso de ataques de extração de raciocínio

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

Em um teste interno de red teaming, os ataques recuperaram a cadeia de raciocínio protegida em 54,0% das vezes no GPT-6 Astra com as salvaguardas originais e em 0,2% no GPT-6.2 Astra; a OpenAI diz ainda que suas ações semanais contra campanhas de destilação atingiram de milhares a dezenas de milhares de contas. Os números não foram verificados de forma independente.

Ler em TokenPost Compartilhar

Por que importa

Os laboratórios tratam cada vez mais a destilação como um problema de segurança, e não só de propriedade intelectual: um modelo aluno treinado com as respostas de um modelo de fronteira pode herdar capacidades de uso duplo em cibersegurança ou biologia sem suas salvaguardas. A OpenAI diz que proteger os rastros exatos de raciocínio limitou a transferência de capacidades cibernéticas em seu estudo interno. Ela já informou o Congresso sobre destilação da DeepSeek e em setembro atribuiu uma campanha a pessoas ligadas à Moonshot AI. Novas revelações foram prometidas.

Fatos principais

  • Sucesso dos ataques caiu de 54,0% (GPT-6 Astra) para 0,2% (GPT-6.2 Astra)
  • Proteções no GPT-6.2 Astra e no GPT-6.2 Sol
  • Ações semanais: de milhares a dezenas de milhares de contas
  • Setembro: campanha atribuída a pessoas ligadas à Moonshot AI
  • OpenAI compartilha indicadores de comprometimento com outros provedores

Fontes

Mais sobre Segurança da IA
Mais do Snape ReportPrimeira página →