OpenAI تنشر Control Room، نظامًا يمكنه إيقاف مخرجات نماذج البحث خلال 35 ثانية
تقول OpenAI إن النظام يعمل بالفعل في كامل بنيتها البحثية ويوقف المخرجات إذا تعطل هو نفسه؛ ورقم 35 ثانية صادر عن الشركة ولم يُختبر بشكل مستقل.
لماذا يهم
Control Room هو جواب OpenAI عن سؤال عملي في السلامة: ما مدى سرعة إيقاف مختبر لنموذج حين ترصد أنظمة المراقبة مشكلة. وتفيد Unite.AI بأن إيقاف نموذج داخلي يدويًا استغرق في وقت سابق من هذا العام 2.5 ساعة بعد إطلاق إنذار، لذا فإن الإيقاف خلال 35 ثانية تغيير كبير على الورق. يغطي النظام أحمال البحث مثل التدريب والتقييم، لا ChatGPT ولا الواجهة البرمجية العامة التي تقول OpenAI إنها تستطيع أصلًا إيقافها مركزيًا. يبقى انتظار تدقيق خارجي لزمن الإيقاف ومعرفة ما إذا كانت مختبرات أخرى ستنشر ضوابط مماثلة.
حقائق رئيسية
- يوقف المخرجات خلال 35 ثانية من قرار الإيقاف
- منشور بالفعل في البنية البحثية لدى OpenAI
- يرفض الاستدلال إذا تعطل Control Room نفسه
- يشمل التدريب والتقييم ومعالجة البيانات
- استغرق إيقاف يدوي 2.5 ساعة في وقت سابق هذا العام (Unite.AI)