Oracle Cloud Infrastructure va oferi acceleratoarele TPU de la Google

Oracle și Google au anunțat pe 27 octombrie 2026, la Oracle AI World din Las Vegas, că unitățile Tensor Processing Units (TPU) de la Google vor fi disponibile prin Oracle Cloud Infrastructure (OCI). Anunțul Oracle prezintă OCI drept prima platformă cloud hyperscale din afara Google care va oferi TPU-uri Google, disponibilitatea fiind planificată pentru anul calendaristic 2027.

Rolul infrastructurii Oracle

OCI va asigura alimentarea cu energie, răcirea și infrastructura de rețea a centrelor de date necesare pentru implementarea TPU-urilor Google la scară largă în infrastructura Oracle. Oracle și Google au declarat că TPU-urile pot susține antrenarea și post-antrenarea modelelor de mari dimensiuni, inclusiv a modelelor dense și a celor cu amestec de experți (MoE), precum și inferența în producție pentru aplicații de raționament, bazate pe agenți și cu context extins. Clienții vor putea alege TPU-uri Google în OCI, optimizate pentru sarcinile lor de lucru, cerințele de performanță și obiectivele de cost.

„Sarcinile de lucru diferite din domeniul AI au nevoi de calcul diferite”, a declarat Mahesh Thiagarajan, președintele Oracle Cloud Infrastructure. „Aducerea TPU-urilor Google în OCI le oferă clienților acces la mai multe arhitecturi de calcul AI de vârf, într-un singur cloud.”

Amin Vahdat, vicepreședinte senior și director tehnic pentru AI și infrastructură la Google, a declarat că următoarea generație de AI va necesita o gamă diversă de resurse de calcul. El a spus că aducerea TPU-urilor Google în OCI va oferi mai multor organizații acces la această tehnologie și mai multă flexibilitate în modul în care își dezvoltă și rulează cele mai complexe aplicații AI.

Companiile au prezentat TPU-urile Google drept acceleratoare specializate, proiectate în colaborare cu software deschis pentru a susține întregul ciclu de viață al AI, de la antrenarea modelelor de frontieră și inferența la scară largă până la cerințele de raționament în mai mulți pași ale AI bazate pe agenți. Acestea au declarat că portofoliul TPU se bazează pe peste un deceniu de dezvoltare a cipurilor AI personalizate și au descris arhitectura ca fiind concepută să maximizeze procesarea AI pentru fiecare watt de energie electrică, să asigure acces rapid la datele modelelor și comunicare rapidă între cipuri.

Hardware TPU de generația a opta

Oracle și Google au descris TPU-ul de generația a opta ca fiind alcătuit din două arhitecturi concepute special pentru scopuri diferite: TPU 8t pentru antrenare și TPU 8i pentru inferență. Potrivit companiilor, TPU 8t oferă o performanță de calcul per pod de aproape 3 ori mai mare decât generația precedentă, reducând totodată ciclurile de dezvoltare a modelelor de frontieră de la luni la săptămâni. TPU 8i este conceput pentru a gestiona activitatea iterativă a numeroși agenți specializați.

Google a prezentat în detaliu designul generației a opta într-o analiză tehnică aprofundată publicată pe 22 aprilie 2026. Potrivit acestei postări, TPU 8t folosește o topologie de rețea toroidală 3D, la o scară de 9.600 de cipuri într-un singur superpod, și adaugă SparseCore, un accelerator specializat care gestionează tiparele neregulate de acces la memorie din căutările de embeddinguri, în timp ce unitatea de înmulțire a matricelor se ocupă de calculele matriciale. Cipul introduce procesarea nativă în virgulă mobilă pe 4 biți (FP4), care, potrivit Google, dublează debitul unității de înmulțire a matricelor, și oferă o lățime de bandă de două ori mai mare pentru extinderea sistemului prin interconexiunea dintre cipuri, comparativ cu generația precedentă.

În ceea ce privește rețeaua și stocarea, Google a declarat că Virgo Network, o infrastructură de rețea extensibilă construită pe comutatoare cu un număr mare de porturi, oferă pentru antrenarea pe TPU 8t o creștere de până la 4 ori a lățimii de bandă a rețelei centrului de date. Noile funcționalități TPUDirect RDMA și TPUDirect Storage transferă date între memoria TPU, plăcile de interfață de rețea și stocarea gestionată, ocolind procesoarele gazdă; potrivit Google, astfel, accesul la stocare este de 10 ori mai rapid decât în cazul antrenării pe TPU-urile Ironwood de generația a șaptea.

TPU 8i, optimizat pentru post-antrenare și raționament cu concurență ridicată, are de 3 ori mai multă memorie SRAM pe cip decât generația precedentă, ceea ce permite păstrarea în întregime pe cip a unei memorii cache KV mai mari în timpul decodării cu context extins, a declarat Google. Un Collectives Acceleration Engine reduce de 5 ori latența pe cip a operațiilor colective, iar o topologie optimizată pentru servire, numită Boardfly, conectează până la 1.152 de cipuri prin plăci și grupuri complet interconectate, podurile putând ajunge la 36 de grupuri legate prin comutatoare optice de circuit. Pentru un pod cu 1.024 de cipuri, Google a declarat că Boardfly reduce diametrul rețelei de la 16 salturi, cât are o topologie toroidală 3D comparabilă, la șapte, îmbunătățind latența cu până la 50% pentru sarcinile de lucru cu cerințe ridicate de comunicare.

Specificațiile publicate de Google indică pentru TPU 8t 216 GB de memorie cu lățime de bandă mare (HBM), 128 MB de memorie SRAM pe cip, o performanță de vârf de 12,6 petaflopi FP4 și o lățime de bandă a memoriei de 6.528 GB/s. Pentru TPU 8i, acestea indică 288 GB de HBM, 384 MB de SRAM, o performanță de vârf de 10,1 petaflopi FP4 și o lățime de bandă de 8.601 GB/s. Ambele sisteme integrează noduri gazdă CPU Axion bazate pe Arm, care, potrivit Google, elimină blocajul din sistemul gazdă cauzat de latența pregătirii datelor.

Google susține că TPU 8t oferă, pentru antrenarea la scară largă, o îmbunătățire de până la 2,7 ori a performanței per dolar față de Ironwood și că TPU 8i oferă o îmbunătățire de până la 80% a performanței per dolar la ținte de latență redusă pentru modelele MoE de mari dimensiuni; ambele cipuri oferă o performanță per watt de până la 2 ori mai bună. Compania a mai declarat că, folosind cadrul său JAX și software-ul Pathways, poate extinde antrenarea distribuită la peste 1 milion de cipuri TPU într-un singur cluster și că Virgo Network poate conecta peste 134.000 de cipuri TPU 8t, cu o lățime de bandă bisectională fără blocaje de până la 47 de petabiți pe secundă.

Portofoliul actual și disponibilitatea

Pagina de produs TPU a Google Cloud menționează că TPU 8t și TPU 8i urmează să fie disponibile. TPU Ironwood din a șaptea generație, construit cu 9.216 cipuri răcite cu lichid per pod și cu o putere de calcul de 42,5 exaflopi, este indicat ca disponibil în general, la fel ca TPU Trillium din a șasea generație. Google descrie TPU-urile drept circuite integrate specifice aplicațiilor, proiectate la comandă, care alimentează modelele Gemini și produsele sale emblematice, printre care Search, Photos și Maps, cu suport software nativ pentru PyTorch și JAX, precum și pentru motorul vLLM destinat inferenței.

Companiile au declarat că TPU-urile Google vor fi disponibile pe OCI în anul calendaristic 2027, iar disponibilitatea lor va crește treptat pe parcursul mai multor ani, pentru a răspunde nevoilor clienților.