ناديلا يصف سلامة الذكاء الاصطناعي بأنها «علم تجريبي» ويدعو لمعاملة النماذج كخطر داخلي
قال الرئيس التنفيذي لـMicrosoft عبر الفيديو في قمة لـCommonwealth Bank في سيدني إن مشكلة عدم المواءمة لم تُحل وإن الهجمات باتت ممكنة لأي شخص بأدوات مفتوحة الأوزان؛ وأطلق البنك أداة مجانية لأمن الشيفرة بالذكاء الاصطناعي.
لماذا يهم
تكتسب التصريحات أهمية لأنها صادرة عن رئيس إحدى أكبر الشركات البائعة لوكلاء الذكاء الاصطناعي، بعد يوم من كشف Microsoft عن نماذجها الخاصة للبرمجة والأمن السيبراني في Ignite. وقال ناديلا إن طبقة الثقة يجب أن تبقى خارج النماذج مع قابلية مراقبة في كل طبقة، وإن بعض النماذج يجب معاملتها كخطر داخلي. وتُتاح أداة CodeCheck من Commonwealth Bank، المصممة لـCodex من OpenAI وClaude Code من Anthropic، مجانًا كإصدار لمرة واحدة. ويبقى أن نرى هل تنشر شركات كبرى أخرى أدوات دفاعية مماثلة.
حقائق رئيسية
- تحدث ناديلا في فيديو مسجل مع الرئيس التنفيذي لـCBA مات كومين
- «بمعنى ما، سلامة الذكاء الاصطناعي علم تجريبي»
- تعمل CodeCheck مع Codex من OpenAI وClaude Code من Anthropic
- يقول CBA إن أنظمته تضم نحو 2.5 مليار سطر من الشيفرة
- يحلل CBA نحو 256 مليار إشارة تهديد محتملة أسبوعيًا