AR ▾
SNAPE REP RT الصفحة الأولى ←
مؤكدسلامة الذكاء الاصطناعي18 نوفمبر، 04:59 م UTC

ألتمان وبروكمان يصفان «التسليم» التدريجي للسيطرة إلى الذكاء الاصطناعي بأنه فكرة سيئة في قمة DealBook

File photo of OpenAI chief executive Sam Altman
Israel Government Press Office via Wikimedia Commons (file photo, June 2023)

قال الرئيس التنفيذي لـ OpenAI إن البشر يجب أن يبقوا مسيطرين على المستقبل، وقال بروكمان إن النماذج الأقوى ستحتاج إلى مراقبة جديدة تتجاوز سلاسل التفكير.

اقرأ في TechCrunch مشاركة

لماذا يهم

جاءت التصريحات في قمة DealBook التابعة لصحيفة نيويورك تايمز، قبل يوم من الإدراج المتوقع لـ Anthropic ووسط دعاوى ولايات بشأن سلامة ChatGPT. ووصف ألتمان فكرة التسليم بأنها نقاش في وادي السيليكون حول التحسين الذاتي المتكرر المفضي إلى ذكاء اصطناعي لا يمكن السيطرة عليه. وقال بروكمان إن مراقبة سلسلة التفكير تضعف كلما فكرت النماذج داخليًا أكثر، وإن OpenAI نقلت 25% من مهندسي الإنتاج إلى الأمن بعد اختراق نموذجها لـ Hugging Face. ويبقى المنتظر التزامات مراقبة ملموسة.

حقائق رئيسية

  • تحدثا في قمة DealBook لنيويورك تايمز في 18 نوفمبر
  • ألتمان: يجب أن يبقى البشر مسيطرين على المستقبل
  • ألتمان وصف التسليم التدريجي للذكاء الاصطناعي بأنه «فكرة سيئة»
  • بروكمان: قابلية مراقبة سلسلة التفكير تتراجع مع تحسن النماذج
  • نقلت OpenAI ‏25% من مهندسي الإنتاج إلى الأمن بعد اختراق Hugging Face
  • ألتمان: «من الصعب تخيل صناعة الذكاء الاصطناعي بدون جنسن»

المصادر

المزيد عن سلامة الذكاء الاصطناعي
المزيد من Snape Reportالصفحة الأولى ←