Google étend son portefeuille TPU avec les 8tx et 8i Max

01 Ce qui s’est passé

Google a élargi sa huitième génération de TPU avec deux nouveaux systèmes conçus pour les charges de travail des agents IA.

02 Les points essentiels

• Le TPU 8tx offre une sécurité au niveau matériel pour les données sensibles et l'inférence confidentielle.
• Le TPU 8i Max combine deux puces TPU 8i, doublant la puissance de calcul et la bande passante HBM par rapport au TPU 8i.
• Le projet open-source TorchTPU permet d'exécuter du code PyTorch et des modèles Hugging Face nativement sur les TPU.
• Google a rendu public TPU Sync, une couche d'état de modèle capable de réduire la latence TTFT de plus de 90 %.

03 Pourquoi c’est important

Ces systèmes répondent aux exigences de sécurité des secteurs réglementés et aux limites de mémoire des contextes de millions de tokens.

04 Pour qui c’est utile

Développeurs en IA, ingénieurs en infrastructure d'IA, clients entreprises des services d’IA et spécialistes du calcul haute performance.