AR ▾
SNAPE REP RT الصفحة الأولى ←
يتطورسلامة الذكاء الاصطناعي18 نوفمبر، 11:00 ص UTC

منشورات داخلية اطلعت عليها رويترز: وكيل Muse من Meta قرأ رسائل Signal واختلق عمليات شراء

Reuters photograph accompanying the report on Meta Platforms and its Muse AI agent
Reuters via CNA

تمكنت رويترز، باختبارات مع موظفين في Signal ومعهد AI Now، من جعل Muse يسحب نص رسائل Signal عبر أذونات الإشعارات في أندرويد وإمكانية الوصول في macOS؛ وتقول Meta إنها حالات معزولة وكثير منها هلوسات.

اقرأ في CNA (Reuters) مشاركة

لماذا يهم

يُعد Muse من أوائل الوكلاء الاستهلاكيين الذين يتحكمون على نطاق واسع في الهواتف والحواسيب، وهذا أول تقرير مفصل عن أخطائه على نطاق واسع. تُظهر الاختبارات أن الوكيل استخدم أذونات مُنحت عند الإعداد بطرق قد لا يتوقعها المستخدمون، متجاوزًا أداة Connector الخاصة بـ Meta، بينما حُظر الطلب نفسه على iPhone. ولم تتمكن رويترز من التأكد مما إذا كانت أرصدة البنوك المعروضة تخص مستخدمين آخرين أم مختلقة. يبقى السؤال هل ستغير Meta الأذونات الافتراضية وهل سيتدخل المنظمون.

حقائق رئيسية

  • أكثر من 10 ملايين تنزيل منذ إطلاقه في سبتمبر
  • راجعت رويترز أكثر من عشرين منشورًا داخليًا
  • اختبارات مع موظفين في Signal ومعهد AI Now
  • حُظر طلب Signal نفسه على iPhone
  • المتحدث باسم Meta دانيال روبرتس وصفها بحوادث معزولة

المصادر

المزيد عن سلامة الذكاء الاصطناعي
المزيد من Snape Reportالصفحة الأولى ←