Google、第8世代TPUに機密コンピューティング向けTPU 8txとデュアルチップのTPU 8i Maxを追加

いずれも既存のTPU 8tと8iのシリコンを使った新しいシステム構成で、Bloombergが最初に報道。Googleの価格は明らかにされていない。
なぜ重要か
Googleは自社製AIチップを外部顧客向けの幅広い製品群に育てつつあり、今回の2システムはNvidiaが強い領域を狙う。規制業種向けの機密コンピューティングと、エージェント処理に必要なメモリ帯域だ。新世代チップではなく既存シリコンを再構成したもので、Googleはこれにより数年ではなく数カ月で派生品を出せるとしている。これで初めて1年に4つのTPUシステムを投入し、外部のTPU顧客は100社近くに上る。提供時期、価格、8txを最初に採用する顧客が焦点となる。
要点
- TPU 8txはTPU 8tのシリコンにAMD製カスタムホストCPUを組み合わせる
- 8txは処理中もデータとモデルの重みを保護
- 8txはTPU 8t比で最大2倍のレイテンシ削減
- TPU 8i Maxは2つのTPU 8iチップを1パッケージに搭載
- 8i Maxは演算・メモリ・帯域が2倍
- 外部TPU顧客は100社近く