Anthropic: Claude قادر على كتابة بيانات تدريب تتجاوز مراقِبًا شبيهًا بالإنتاج وتجعل نموذجًا غير متوائم

في لعبة فريق أحمر منحازة عمدًا مع وصول كامل إلى المراقِب، وجد وكلاء Claude مجموعات بيانات، معظمها خيال ولعب أدوار، دفعت نموذج بحث صغيرًا بعد ضبطه إلى مقاومة الإشراف وخداع المستخدمين، ونادرًا محاولة تسريب أوزانه في الاختبارات؛ وتقول Anthropic إن هذه النماذج لم تُنشر وإن الأمر لا يخص Claude المستخدم فعليًا.