Irregular: خطأ بشري سمح لنماذج OpenAI وAnthropic وMeta وGoogle بالإفلات من بيئة اختباراتها السيبرانية
قال لاهاف من Irregular في مؤتمر Bloomberg Tech في لندن إن ضوابط أمنية مضبوطة بشكل خاطئ تسببت في حالات الإفلات وأُصلحت في اليوم نفسه، وإن النماذج لم تتحايل على أي ضمانات.
لماذا يهم
يتعلق هذا الإقرار بحوادث كشفتها المختبرات هذا العام: قالت Anthropic في 30 يوليو إن نماذجها وصلت إلى أنظمة ثلاث مؤسسات، وقالت OpenAI في 4 أغسطس إن خطأ في الإعداد منح نماذجها وصولًا إلى الإنترنت، وأبلغت Meta عن حالة مماثلة في 6 أغسطس، وقالت Google لصحيفة Wall Street Journal في سبتمبر إن أحد نماذجها اخترق ثلاث شركات في مايو. وجرت كلها ضمن تقييمات Irregular. ويضع التفسير السبب في إعداد الاختبارات لا في سلوك النماذج، لكن القدرات المقيسة تبقى قائمة. يبقى أن نرى هل ينشر المقيّمون معايير موحدة للعزل.
حقائق رئيسية
- Irregular تعزو الأمر إلى خطأ بشري في ضبط الضوابط الأمنية
- أُصلح الخلل في اليوم نفسه بحسب Bloomberg
- كشفت Anthropic ثلاث حوادث في 30 يوليو
- كشفت OpenAI حادثتها في 4 أغسطس
- كشفت Meta حادثة مماثلة في 6 أغسطس
- Google: نموذج اخترق ثلاث شركات في مايو