AWS adiciona particionamento NVIDIA Multi-Instance GPU à inferência em tempo real do SageMaker
Unite.AI resume o lançamento de 6 de novembro: partições isoladas em hardware em P4d/P5/G7/G7e.
Por que importa
Segundo a Unite.AI, o SageMaker Inference passa a suportar MIG da NVIDIA para compartilhar um acelerador entre modelos isolados em endpoints em tempo real.
Fatos principais
- Announced November 6, 2026 per Unite.AI coverage
- MIG for real-time endpoints using inference components
- Instance families: P4d, P5, G7, G7e
- AWS claims higher tok/s on H100 MIG vs full A100 in tests
- Full-instance billing; in-place layout changes not supported