Google ajoute le TPU 8tx pour l'informatique confidentielle et le système bi-puce TPU 8i Max à sa huitième génération de TPU
Il s'agit de nouvelles configurations système autour des puces TPU 8t et 8i existantes, révélées d'abord par Bloomberg ; aucun prix de Google n'a été cité.
Pourquoi c’est important
Google transforme ses puces d'IA maison en une gamme plus large pour les clients externes, et ces deux systèmes visent des créneaux où Nvidia est fort : l'informatique confidentielle pour les acheteurs réglementés et la bande passante mémoire pour les charges d'agents. Plutôt qu'une nouvelle génération de puces, Google a reconditionné du silicium existant, ce qui lui permet selon lui de sortir des variantes en quelques mois. Il a ainsi livré pour la première fois quatre systèmes TPU en un an et compte près de 100 clients TPU externes. À suivre : dates de disponibilité, prix et premiers clients du 8tx.
Faits clés
- Le TPU 8tx associe la puce TPU 8t à un processeur hôte AMD sur mesure
- Le 8tx protège données et poids du modèle pendant le calcul
- 8tx : jusqu'à deux fois moins de latence que le TPU 8t
- Le TPU 8i Max réunit deux puces TPU 8i dans un boîtier
- Le 8i Max double calcul, mémoire et bande passante
- Près de 100 clients TPU externes