DE ▾
SNAPE REP RT Titelseite →
BestätigtKI-Sicherheit20. Nov., 19:33 UTC

OpenAI: Neue Schutzmaßnahmen senken Erfolg von Angriffen auf verborgenes Reasoning von 54 % auf 0,2 %

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

In einem internen Red-Teaming-Test holten Angriffe die geschützte Chain-of-Thought bei GPT-6 Astra mit ursprünglichen Schutzmaßnahmen in 54,0 % der Fälle heraus, bei GPT-6.2 Astra in 0,2 %; OpenAI sagt zudem, wöchentliche Maßnahmen gegen Destillationskampagnen hätten Tausende bis Zehntausende Konten betroffen. Die Zahlen sind nicht unabhängig geprüft.

Weiterlesen bei TokenPost Teilen

Warum es wichtig ist

Labore behandeln Destillation zunehmend als Sicherheitsproblem, nicht nur als Frage geistigen Eigentums: Ein Schülermodell, das mit Ausgaben eines Frontier-Modells trainiert wird, kann Dual-Use-Fähigkeiten etwa in Cybersicherheit und Biologie ohne dessen Schutzmaßnahmen übernehmen. OpenAI sagt, der Schutz exakter Reasoning-Spuren habe in seiner internen Studie den Transfer von Cyberfähigkeiten begrenzt. Es informierte den Kongress zuvor über DeepSeek-Destillation und schrieb im September eine Kampagne Personen aus dem Umfeld von Moonshot AI zu. Weitere Enthüllungen sind angekündigt.

Die wichtigsten Fakten

  • Angriffserfolg sank von 54,0 % (GPT-6 Astra) auf 0,2 % (GPT-6.2 Astra)
  • Schutz gilt für GPT-6.2 Astra und GPT-6.2 Sol
  • Wöchentliche Maßnahmen: Tausende bis Zehntausende Konten
  • September: Kampagne Personen um Moonshot AI zugeschrieben
  • OpenAI teilt Kompromittierungsindikatoren mit anderen Anbietern

Quellen

Mehr zu KI-Sicherheit
Mehr von Snape ReportTitelseite →