AR ▾
SNAPE REP RT الصفحة الأولى ←
مؤكدسلامة الذكاء الاصطناعي20 نوفمبر، 07:33 م UTC

OpenAI: ضمانات جديدة تخفض نجاح هجمات استخراج الاستدلال من 54% إلى 0.2% لمواجهة التقطير

OpenAI's title card for its research post 'Combatting adversarial distillation'.
OpenAI

في اختبار داخلي للفريق الأحمر، استعادت الهجمات سلسلة التفكير المحمية بنسبة 54.0% على GPT-6 Astra بضماناته الأصلية و0.2% على GPT-6.2 Astra؛ وتقول OpenAI أيضًا إن إجراءاتها الأسبوعية ضد حملات التقطير شملت من آلاف إلى عشرات آلاف الحسابات. ولم تُختبر الأرقام بشكل مستقل.

اقرأ في TokenPost مشاركة

لماذا يهم

تتعامل المختبرات بشكل متزايد مع التقطير كمشكلة أمان لا ملكية فكرية فحسب: فالنموذج التلميذ المدرَّب على مخرجات نموذج متقدم قد يرث قدرات مزدوجة الاستخدام في مجالات مثل الأمن السيبراني والأحياء دون ضماناته. وتقول OpenAI إن حماية آثار الاستدلال الدقيقة حدّت من انتقال القدرات السيبرانية في دراستها الداخلية. وكانت قد أطلعت الكونغرس على تقطير DeepSeek ونسبت في سبتمبر حملة إلى أشخاص مرتبطين بـMoonshot AI. وتعد الشركة بكشف المزيد قريبًا.

حقائق رئيسية

  • انخفض نجاح الهجمات من 54.0% (GPT-6 Astra) إلى 0.2% (GPT-6.2 Astra)
  • الحماية تشمل GPT-6.2 Astra وGPT-6.2 Sol
  • الإجراءات الأسبوعية: من آلاف إلى عشرات آلاف الحسابات
  • سبتمبر: نسبة حملة إلى أشخاص مرتبطين بـMoonshot AI
  • تتبادل OpenAI مؤشرات الاختراق مع مزودين آخرين

المصادر

المزيد عن سلامة الذكاء الاصطناعي
المزيد من Snape Reportالصفحة الأولى ←