Oracle Cloud Infrastructure proposera les accélérateurs TPU de Google

Le 27 octobre 2026, lors de l’événement Oracle AI World à Las Vegas, Oracle et Google ont annoncé que les unités de traitement tensoriel (TPU) de Google seraient accessibles via Oracle Cloud Infrastructure (OCI). L’annonce d’Oracle présente OCI comme la première plateforme cloud hyperscale en dehors de Google à proposer les TPU de Google, dont la disponibilité est prévue pour l’année civile 2027.

Le rôle de l’infrastructure d’Oracle

OCI fournira l’alimentation électrique, le refroidissement et le réseau des centres de données nécessaires au déploiement à grande échelle des TPU de Google dans l’infrastructure d’Oracle. Oracle et Google ont indiqué que les TPU pouvaient prendre en charge l’entraînement et le post-entraînement de grands modèles, notamment les modèles denses et les modèles à mélange d’experts (MoE), ainsi que l’inférence en production pour les applications de raisonnement, d’IA agentique et à long contexte. Les clients pourront choisir, au sein d’OCI, des TPU de Google optimisés en fonction de leurs charges de travail, de leurs exigences de performance et de leurs objectifs de coûts.

« Les différents workloads d’IA ont des besoins de calcul différents », a déclaré Mahesh Thiagarajan, président d’Oracle Cloud Infrastructure. « L’intégration des TPU de Google à OCI permet aux clients d’accéder à plusieurs architectures de calcul d’IA de premier plan au sein d’un même cloud. »

Amin Vahdat, vice-président senior et directeur technique chargé de l’IA et de l’infrastructure chez Google, a déclaré que la prochaine génération d’IA nécessiterait une gamme diversifiée de capacités de calcul. Selon lui, l’arrivée des TPU de Google sur OCI permettra à davantage d’organisations d’accéder à cette technologie et leur offrira une plus grande flexibilité pour concevoir et exécuter leurs applications d’IA les plus complexes.

Les entreprises ont présenté les TPU de Google comme des accélérateurs personnalisés, conçus conjointement avec des logiciels ouverts pour prendre en charge l’ensemble du cycle de vie de l’IA, de l’entraînement de modèles de pointe et de l’inférence à grande échelle aux exigences de raisonnement en plusieurs étapes de l’IA agentique. Elles ont indiqué que la gamme de TPU s’appuyait sur plus de dix ans de développement de puces d’IA personnalisées et ont décrit une architecture conçue pour maximiser la puissance de traitement de l’IA par watt d’électricité, avec un accès rapide aux données des modèles et une communication rapide entre les puces.

Matériel TPU de huitième génération

Oracle et Google ont présenté les TPU de huitième génération comme deux architectures conçues pour des usages spécifiques : TPU 8t pour l’entraînement et TPU 8i pour l’inférence. Ils ont indiqué que TPU 8t offrait, par pod, des performances de calcul presque trois fois supérieures à celles de la génération précédente, tout en ramenant les cycles de développement des modèles de pointe de plusieurs mois à quelques semaines. TPU 8i est conçu pour gérer le travail itératif de nombreux agents spécialisés.

Google a détaillé la conception de cette huitième génération dans une analyse technique approfondie publiée le 22 avril 2026. Selon cet article, TPU 8t utilise une topologie de réseau en tore 3D à l’échelle de 9 600 puces dans un seul superpod et intègre un SparseCore, un accélérateur spécialisé qui gère les schémas d’accès irréguliers à la mémoire lors des recherches d’embeddings, tandis que l’unité de multiplication matricielle effectue les calculs matriciels. La puce introduit le traitement natif en virgule flottante sur 4 bits (FP4), qui, selon Google, double le débit de l’unité de multiplication matricielle. Elle offre également une bande passante de montée en échelle deux fois supérieure sur son interconnexion entre puces, par rapport à la génération précédente.

Pour le réseau et le stockage, Google a indiqué que son Virgo Network, une infrastructure d’interconnexion évolutive reposant sur des commutateurs à grand nombre de ports, permettait d’augmenter jusqu’à quatre fois la bande passante du réseau du centre de données pour l’entraînement sur TPU 8t. Les nouvelles fonctionnalités TPUDirect RDMA et TPUDirect Storage transfèrent les données entre la mémoire des TPU, les cartes réseau et le stockage géré en contournant les processeurs hôtes. Selon Google, elles permettent un accès au stockage dix fois plus rapide que lors d’un entraînement sur les TPU Ironwood de septième génération.

TPU 8i, optimisé pour le post-entraînement et le raisonnement à forte concurrence, dispose de trois fois plus de mémoire SRAM sur puce que la génération précédente. Google indique qu’un cache KV plus volumineux peut ainsi rester entièrement sur la puce pendant le décodage à long contexte. Un Collectives Acceleration Engine réduit d’un facteur cinq la latence sur puce des opérations collectives, tandis qu’une topologie optimisée pour le service, appelée Boardfly, relie jusqu’à 1 152 puces au moyen de cartes et de groupes entièrement interconnectés. Les pods peuvent atteindre 36 groupes reliés par des commutateurs optiques. Pour un pod de 1 024 puces, Google affirme que Boardfly réduit le diamètre du réseau de 16 sauts, dans un tore 3D comparable, à sept, ce qui permet de réduire jusqu’à 50 % la latence des charges de travail nécessitant beaucoup de communications.

Les spécifications publiées par Google indiquent que TPU 8t dispose de 216 Go de mémoire à bande passante élevée (HBM), de 128 Mo de mémoire SRAM sur puce, d’une puissance de calcul FP4 de pointe de 12,6 pétaflops et d’une bande passante mémoire de 6 528 Go/s. TPU 8i est quant à lui doté de 288 Go de HBM, de 384 Mo de SRAM, d’une puissance de calcul FP4 de pointe de 10,1 pétaflops et d’une bande passante de 8 601 Go/s. Les deux systèmes intègrent des unités hôtes CPU Axion à base Arm, qui, selon Google, éliminent le goulot d’étranglement dû à la latence de préparation des données.

Google affirme que TPU 8t améliore jusqu’à 2,7 fois le rapport performances-prix par rapport à Ironwood pour l’entraînement à grande échelle, et que TPU 8i améliore ce rapport jusqu’à 80 % pour les grands modèles MoE visant une faible latence. Les deux puces offrent, selon l’entreprise, jusqu’à deux fois plus de performances par watt. Google a également indiqué que son framework JAX et son logiciel Pathways lui permettaient de faire évoluer l’entraînement distribué à plus d’un million de puces TPU dans un seul cluster, et que le Virgo Network pouvait relier plus de 134 000 puces TPU 8t avec une bande passante de bissection non bloquante pouvant atteindre 47 péta bits par seconde.

Gamme actuelle et disponibilité

La page produit des TPU de Google Cloud indique que les TPU 8t et TPU 8i seront bientôt disponibles. Le TPU Ironwood de septième génération, composé de 9 216 puces refroidies par liquide par pod et affichant une puissance de 42,5 exaflops, est répertorié comme étant en disponibilité générale, aux côtés du TPU Trillium de sixième génération. Google décrit les TPU comme des circuits intégrés spécifiques à une application, conçus sur mesure, qui alimentent ses modèles Gemini et ses produits phares, notamment Search, Photos et Maps. Ils bénéficient d’une prise en charge logicielle native de PyTorch et JAX, ainsi que du moteur vLLM pour l’inférence.

Les TPU de Google sur OCI seront disponibles au cours de l’année civile 2027, avec une montée en puissance sur plusieurs années afin de répondre aux besoins des clients, ont indiqué les deux entreprises.