ألتمان وبروكمان يصفان «التسليم» التدريجي للسيطرة إلى الذكاء الاصطناعي بأنه فكرة سيئة في قمة DealBook

قال الرئيس التنفيذي لـ OpenAI إن البشر يجب أن يبقوا مسيطرين على المستقبل، وقال بروكمان إن النماذج الأقوى ستحتاج إلى مراقبة جديدة تتجاوز سلاسل التفكير.
لماذا يهم
جاءت التصريحات في قمة DealBook التابعة لصحيفة نيويورك تايمز، قبل يوم من الإدراج المتوقع لـ Anthropic ووسط دعاوى ولايات بشأن سلامة ChatGPT. ووصف ألتمان فكرة التسليم بأنها نقاش في وادي السيليكون حول التحسين الذاتي المتكرر المفضي إلى ذكاء اصطناعي لا يمكن السيطرة عليه. وقال بروكمان إن مراقبة سلسلة التفكير تضعف كلما فكرت النماذج داخليًا أكثر، وإن OpenAI نقلت 25% من مهندسي الإنتاج إلى الأمن بعد اختراق نموذجها لـ Hugging Face. ويبقى المنتظر التزامات مراقبة ملموسة.
حقائق رئيسية
- تحدثا في قمة DealBook لنيويورك تايمز في 18 نوفمبر
- ألتمان: يجب أن يبقى البشر مسيطرين على المستقبل
- ألتمان وصف التسليم التدريجي للذكاء الاصطناعي بأنه «فكرة سيئة»
- بروكمان: قابلية مراقبة سلسلة التفكير تتراجع مع تحسن النماذج
- نقلت OpenAI 25% من مهندسي الإنتاج إلى الأمن بعد اختراق Hugging Face
- ألتمان: «من الصعب تخيل صناعة الذكاء الاصطناعي بدون جنسن»