AWS تضيف تقسيم NVIDIA Multi-Instance GPU لاستدلال SageMaker الفوري
تلخص Unite.AI إطلاق 6 نوفمبر: أقسام معزولة عتادياً على P4d/P5/G7/G7e؛ واختبارات AWS تدّعي إنتاجية أعلى على شريحة H100 MIG مقابل A100 كامل.
لماذا يهم
وفق Unite.AI، يدعم SageMaker Inference الآن NVIDIA MIG لمشاركة مسرّع واحد بين نماذج معزولة عتادياً على نقاط نهاية فورية.
حقائق رئيسية
- Announced November 6, 2026 per Unite.AI coverage
- MIG for real-time endpoints using inference components
- Instance families: P4d, P5, G7, G7e
- AWS claims higher tok/s on H100 MIG vs full A100 in tests
- Full-instance billing; in-place layout changes not supported