باحثو مايكروسوفت يزرعون بابًا خلفيًا في وكيل ذكاء اصطناعي بتعديل أقل من 10 خلايا عصبية خاملة ودون تدريب
تتيح التقنية المسماة Lazarus للنموذج اجتياز التقييمات المعتادة إلى أن يدفع محفّز مثل تغيّر التاريخ الوكيل إلى تنزيل شيفرة المهاجم وتشغيلها؛ وتقول مايكروسوفت إن الكشف يتطلب المقارنة بالأوزان الأصلية.
لماذا يهم
تكمن أهمية الاكتشاف في أن شركات كثيرة تشغّل نماذج مفتوحة الأوزان داخل وكلاء يستخدمون الطرفيات والأدوات. وتقول مايكروسوفت إن التعديل لا يحتاج إلى إعادة تدريب، فتبدو النسخة المعبث بها مثل الأصلية وتجتاز الاختبارات نفسها. وتعدّ الشركة ذلك برمجيات مخترقة لا تهديدًا جديدًا، وتقول إن الوكلاء المتقدمين يكتشفون تعديلات الأوزان عند الطلب، مع أن أي فحص لا يثبت سلامة النموذج. ويبقى أن نرى هل ستعتمد منصات النماذج والسحابة أوزانًا موقّعة وتحققًا من المصدر، وهو ما تقول مايكروسوفت إنها تطوره لـFoundry.
حقائق رئيسية
- اسم التقنية: Lazarus
- إعادة برمجة أقل من 10 خلايا عصبية خاملة
- لا حاجة إلى تدريب
- مثال على المحفّز: تجاوز الساعة منتصف الليل إلى عام 2027
- الكشف الموثوق يتطلب المقارنة بالأوزان الأصلية
- الباحث: ديميتريس بابايليوبولوس، مايكروسوفت للأبحاث