سارفام تطلق Prism، نموذج قرار مفتوح الأوزان مبني على نموذجها 105B، بنتيجة 71.8 خلال 44 ملّي ثانية
يقول المختبر الهندي إن Prism حقق أعلى نتيجة بين 25 نموذج قرار اختبرها تستجيب في أقل من 100 ملّي ثانية، والأوزان متاحة على Hugging Face بترخيص Apache 2.0.
لماذا يهم
Prism نموذج قرار من نوع النظام الأول: يتلقى حالة وسؤالًا وخيارات ويعيد احتمالًا لكل خيار، لقرارات الشركات السريعة. اختبرت سارفام Prism و24 نموذجًا منافسًا عبر ثلاثة مؤشرات على معالجات B200 ونشرت النتائج بنفسها، لذا لم يُتحقق من الترتيب بشكل مستقل. وخفّض العمل الهندسي زمن الاستجابة الوسيط من 664 إلى 44 ملّي ثانية، جزئيًا بالتحول إلى FP8 على معالج واحد. والنموذج متاح أيضًا عبر واجهة سارفام البرمجية.
حقائق رئيسية
- مبني على Sarvam 105B، نموذج خليط الخبراء
- متوسط 71.8 بزمن وسيط 44 ملّي ثانية على B200
- الأفضل دون 100 ملّي ثانية بين 25 نموذجًا اختبرتها سارفام
- أوزان مفتوحة بترخيص Apache 2.0، ويعمل بدقة FP8 على معالج واحد بذاكرة 120 غيغابايت فأكثر