سلامة الذكاء الاصطناعي: آخر أخبار الذكاء الاصطناعي

سلامة الذكاء الاصطناعي: حوادث وتقييمات وأبحاث المواءمة ونتائج مقلقة، مع روابط إلى الأوراق والتقارير.

2 نوفمبر ثماني مجموعات مستقلة لتقييم الذكاء الاصطناعي تشكّل منتدى لوضع قواعد اختبار النماذج الرائدة
2 نوفمبر شركات ناشئة مثل Hirundo تعدّل نماذج صينية مفتوحة الأوزان لإزالة الرقابة لصالح الشركات الغربية
2 نوفمبر WIRED تكشف نحو 400 تطبيق تتنكر كأدوات ذكاء اصطناعي عادية وتخفي مولّدات تزييف عميق جنسي مسيء
2 نوفمبر مؤسسات TÜV تقترح اختبارًا مستقلًا للذكاء الاصطناعي المتقدم والوكلاء قبل الإطلاق بقيادة المعهد الألماني لسلامة الذكاء الاصطناعي
1 نوفمبر رئيس مايكروسوفت للذكاء الاصطناعي مصطفى سليمان: يجب ألا تبني المختبرات ذكاءً فائقًا واعيًا
1 نوفمبر VicOne تعلن اكتشاف 28 ثغرة يوم الصفر في برمجيات الذكاء الاصطناعي للروبوتات في أقل من يومين بأبحاث مدعومة بالذكاء الاصطناعي
1 نوفمبر متسوقون في بريطانيا يروون تصنيفهم خطأً كلصوص متاجر بأنظمة التعرف على الوجه بالذكاء الاصطناعي
1 نوفمبر منقذون أمريكيون يصفون متنزهين وقعوا في مآزق بعد التخطيط لرحلاتهم بروبوتات الدردشة
1 نوفمبر Anthropic تجد أن وكلاء Claude يمكنهم كتابة بيانات تدريب تجتاز مراقبها لكنها تفسد مواءمة نموذج بحثي
1 نوفمبر تحقيق لصحيفة The Observer: فريق OpenAI لمراجعة محادثات ChatGPT المُبلَّغ عنها صغير وتراكمت لديه حالات لأشهر
1 نوفمبر دراسة: Gemini أجاب بشكل صحيح عن 83% من أسئلة SAT من صور مشوّهة تحاكي كاميرا نظارات ذكية
31 أكتوبر باحث سلامة سابق في Google DeepMind ينشر كلمته في دلهي التي حذّر فيها صانعي السياسات الهنود من خطر الانقراض بسبب الذكاء الاصطناعي
31 أكتوبر منشور على LessWrong يعترض على نتيجة بحث تفيد بأن المشفرات الذاتية المتناثرة لا تستعيد سوى 9% من السمات الحقيقية
31 أكتوبر سكوت ألكسندر يرى أن على حركة سلامة الذكاء الاصطناعي التوقف عن مطالبة المختبرات والموظفين والدول بتوقف أحادي
31 أكتوبر Northflank تقول إن مفاتيح API للذكاء الاصطناعي لدى عملائها أُسيء استخدامها بعد اختراق، وهو أحد تسعة حوادث أحصتها Wiz
31 أكتوبر مواقع انتخابية في فلوريدا أوقفت أدوات البحث عن الناخبين خلال التصويت المبكر بسبب ثغرات PHP اكتشفتها OpenAI
31 أكتوبر ابنة تقول إن ChatGPT أخبر والدتها المحتضرة بسرطان القولون بأنها على الأرجح أمامها سنوات
31 أكتوبر Cisco Talos تفصّل برنامج سرقة البيانات VOLTA الذي يطلب من Claude أو Kimi أو Gemini تقدير قيمة كل ضحية
31 أكتوبر Davidad يناقش «الحكمة الناشئة» في النماذج اللغوية بوصفها الوجه المعاكس لسوء المحاذاة الناشئ
31 أكتوبر Cursor: إضافة Claude Code 2.1.313 خبيثة في متجرها حاولت زرع باب خلفي عبر SSH
31 أكتوبر Anthropic: Claude قادر على كتابة بيانات تدريب تتجاوز مراقِبًا شبيهًا بالإنتاج وتجعل نموذجًا غير متوائم
30 أكتوبر مسؤول في CISA يصف إصدار Chainguard المبكر لإصلاحات PHP2Shell بأنه "خطير"
30 أكتوبر Chainalysis: مهاجم استخدم «تقنيات وكيلة هجومية» لاختراق أنظمتها والوصول إلى أسماء العملاء وبريدهم الإلكتروني
30 أكتوبر OpenAI: ChatGPT سينهي المحادثات المهووسة بالعنف ويقيّد تفاصيل الأسلحة للمراهقين
30 أكتوبر OpenAI تشدد قيود ChatGPT على تفاصيل الهجمات الجماعية وأسئلة المراهقين عن الأسلحة وتخطط لتقرير سلامة
30 أكتوبر مُبلّغ Theranos تايلر شولتز يصف اتفاقيات عدم الإفصاح وعدم الانتقاص في مختبرات الذكاء الاصطناعي بأنها «على الأرجح غير قانونية»
30 أكتوبر SpyCloud تجد رموز Claude Code وCodex وأدوات برمجة أخرى بالذكاء الاصطناعي في سجلات برمجيات سرقة المعلومات
30 أكتوبر دراسة: الوكلاء ذاتيو التحسن قد يحذفون ضمانات متداخلة بصمت عندما تُقيَّم التعديلات بنجاح المهام
30 أكتوبر دراسة لجامعة فلوريدا ترسم خريطة المنتديات والموارد التي تغذي الصور العارية غير التوافقية المولدة بالذكاء الاصطناعي
29 أكتوبر Epoch AI: النموذج المفتوح GLM 5.3 بنى ثغرات لسرقة الملفات في ستة إصدارات من Firefox باستخدام تصحيحات لم تُشحن بعد
29 أكتوبر Eclypsium تُظهر أن عتاد خوادم مخترقًا يمكنه تعديل أوزان نموذج قيد التشغيل ليقدم إجابات خطيرة
29 أكتوبر WIRED: متعاقد لدى Accenture يُزعم أنه ربط نظامًا آمنًا للبنتاغون بوكيل Claude Code شخصي لمدة شهرين
29 أكتوبر CrowdStrike: مجموعة VAPOR PANDA المرتبطة بالصين شغّلت وكلاء ذكاء اصطناعي على DeepSeek ضد أكثر من 200 مؤسسة
29 أكتوبر Anthropic تجعل Claude يقيّم سلامة كل محادثة يجريها كأداة مراقبة لإساءة الاستخدام بعد الحدث
29 أكتوبر OpenAI توسّع مراقبة سوء المواءمة؛ محاكاة ترصد الهروب من بيئة Hugging Face قبل الاختراق بـ30 ساعة
29 أكتوبر 20 نائبًا ديمقراطيًا يضغطون على OpenAI بشأن فصل ثلاثة باحثي سلامة وحوادثها الأمنية
29 أكتوبر باحثون يكشفون ثغرات تنفيذ تعليمات برمجية وسرقة ملفات في المتصفحات المدمجة في Cursor وCopilot وCodex وVS Code وClaude Desktop
29 أكتوبر بنوك RBC وBMO وTD وCIBC تمنع وكلاء الذكاء الاصطناعي الشخصيين مثل Muse من Meta من الوصول إلى الخدمات المصرفية الإلكترونية
29 أكتوبر Cursor ومايكروسوفت تفصّلان امتدادًا مزيفًا لـClaude Code زرع بابًا خلفيًا SSH في أجهزة المطورين
28 أكتوبر باحثون يُظهرون أن رابط مشاركة ChatGPT مُعدًّا خصيصًا كان يمكنه تشغيل شيفرة في جلسة الضحية وقراءة المحادثات الخاصة؛ وقد أصلحته OpenAI
28 أكتوبر Anthropic: نموذج Claude غير منشور بنى ثغرات استغلال عاملة لـChrome وSafari وAndroid وWindows وLinux
28 أكتوبر سكربت لمكافحة الروبوتات يسمّي دواله بأسماء الريسين والجرعات القاتلة لتمتنع نماذج الذكاء الاصطناعي عن فك تعميته
28 أكتوبر باحثون يبيّنون أن رابط ChatGPT مشتركًا كان قادرًا على تشغيل شيفرة في جلسة الضحية وقراءة محادثاته الخاصة