Google تفتح مصدر XLA Serving Engine للتدريب بـ Python والخدمة بـ C++
وقت تشغيل Apache-2.0 يصدّر XLA SavedModels بـ StableHLO؛ وتذكر Google إنتاجية أعلى 2–5 مرات من أفضل خادم Python لديها وأكثر من 6 ملايين طلب/ث داخلياً.
لماذا يهم
غالباً ما تحظر الخدمة الإنتاجية بايثون حتى لو دُرّبت النماذج بـ JAX أو PyTorch. يتيح XLA Serving Engine تصدير XLA SavedModel بـ StableHLO وتشغيله بـ C++ على TPU وGPU وCPU. تقول Google إن إنتاجية الطلبات القصيرة أعلى مرتين إلى خمس من أفضل خادم بايثون لديها، وإن XSE يخدم أكثر من ستة ملايين استعلام في الثانية داخلياً.
حقائق رئيسية
- مفتوح المصدر Apache-2.0 على github.com/openxla/xla-serving
- تدريب بـ Python وخدمة بـ C++ عبر XLA SavedModel / StableHLO
- إنتاجية أعلى 2–5 مرات من أفضل خادم بايثون داخلي
- حمل داخلي >6 ملايين طلب/ث (YouTube Shorts وAds وSearch وGemini Omni)
- أعلن في 2026-11-05 على Google Open Source Blog