Oracle Cloud Infrastructure nabídne akcelerátory TPU od Googlu

Oracle a Google 27. října 2026 na konferenci Oracle AI World v Las Vegas oznámily, že procesorové jednotky Tensor Processing Units (TPU) od Googlu budou dostupné prostřednictvím Oracle Cloud Infrastructure (OCI). Podle oznámení společnosti Oracle bude OCI první hyperskalární cloudovou platformou mimo Google, která nabídne TPU od Googlu; jejich dostupnost se plánuje na kalendářní rok 2027.

Role infrastruktury Oracle

OCI zajistí napájení, chlazení a síťové propojení datacenter potřebné k nasazení TPU od Googlu ve velkém měřítku v rámci infrastruktury Oracle. Oracle a Google uvedly, že TPU mohou podporovat trénování velkých modelů i jejich následné dolaďování, včetně hustých modelů a modelů typu mixture of experts (MoE), a také produkční inferenci pro aplikace zaměřené na uvažování, agentní AI a práci s dlouhým kontextem. Zákazníci si budou moci v rámci OCI vybrat TPU od Googlu optimalizované pro své úlohy, požadavky na výkon a nákladové cíle.

„Různé úlohy AI vyžadují různé výpočetní prostředky,“ uvedl Mahesh Thiagarajan, prezident Oracle Cloud Infrastructure. „Díky zpřístupnění TPU od Googlu v OCI budou mít zákazníci v jednom cloudu přístup k několika předním architekturám pro výpočty AI.“

Amin Vahdat, seniorní viceprezident a hlavní technolog pro AI a infrastrukturu ve společnosti Google, uvedl, že příští generace AI bude vyžadovat rozmanité výpočetní prostředky. Dodal, že zpřístupnění TPU od Googlu v OCI umožní přístup k této technologii většímu počtu organizací a poskytne jim větší flexibilitu při vývoji a provozu jejich nejsložitějších aplikací AI.

Společnosti popsaly TPU od Googlu jako vlastní akcelerátory navržené společně s otevřeným softwarem, které podporují celý životní cyklus AI – od trénování nejpokročilejších modelů a inference ve velkém měřítku až po nároky agentní AI na vícestupňové uvažování. Uvedly, že portfolio TPU vychází z více než desetiletého vývoje vlastních čipů pro AI. Architektura je podle nich navržena tak, aby maximalizovala výpočetní výkon AI z každého wattu elektřiny a zároveň zajišťovala rychlý přístup k datům modelů a rychlou komunikaci mezi čipy.

Hardware TPU osmé generace

Oracle a Google popsaly TPU osmé generace jako dvě architektury navržené pro konkrétní účely: TPU 8t pro trénování a TPU 8i pro inferenci. Uvedly, že TPU 8t oproti předchozí generaci nabízí na jeden modul téměř trojnásobný výpočetní výkon a zkracuje vývoj nejpokročilejších modelů z měsíců na týdny. TPU 8i je navržena pro iterativní práci mnoha specializovaných agentů.

Google podrobně popsal návrh osmé generace v technickém rozboru zveřejněném 22. dubna 2026. Podle tohoto příspěvku používá TPU 8t síťovou topologii 3D toru, která v jednom superpodu propojuje 9 600 čipů, a obsahuje SparseCore – specializovaný akcelerátor, který zpracovává nepravidelné vzorce přístupu do paměti při vyhledávání embeddingů, zatímco jednotka pro násobení matic provádí maticové výpočty. Čip nově nativně podporuje zpracování čísel s plovoucí desetinnou čárkou ve 4bitovém formátu (FP4), které podle Googlu zdvojnásobuje propustnost jednotky pro násobení matic. Jeho propojení mezi čipy má také oproti předchozí generaci dvojnásobnou šířku pásma pro škálování systému.

Pokud jde o síťové propojení a úložiště, Google uvedl, že jeho Virgo Network, škálovatelná síťová infrastruktura založená na přepínačích s vysokým počtem portů, zvyšuje šířku pásma sítě datacentra pro trénování na TPU 8t až čtyřnásobně. Nové funkce TPUDirect RDMA a TPUDirect Storage přenášejí data mezi pamětí TPU, síťovými kartami a spravovaným úložištěm, přičemž obcházejí hostitelské procesory. Podle Googlu tak přístup k úložišti při trénování na TPU 8t dosahuje desetinásobné rychlosti oproti trénování na TPU Ironwood sedmé generace.

TPU 8i, optimalizovaná pro následné dolaďování modelů a uvažování při vysokém souběžném zatížení, má oproti předchozí generaci třikrát větší SRAM přímo na čipu. Díky tomu může při dekódování dlouhého kontextu zůstat větší mezipaměť KV celá na čipu, uvedl Google. Engine Collectives Acceleration Engine zkracuje latenci kolektivních operací přímo na čipu pětkrát a topologie Boardfly optimalizovaná pro obsluhu požadavků propojuje až 1 152 čipů prostřednictvím plně propojených desek a skupin. Moduly lze rozšířit až na 36 skupin propojených optickými přepínači okruhů. Google uvedl, že u modulu s 1 024 čipy zmenšuje Boardfly průměr sítě ze 16 přeskoků v odpovídající topologii 3D toru na sedm, čímž u úloh náročných na komunikaci zkracuje latenci až o 50 %.

Ve zveřejněných specifikacích Googlu má TPU 8t 216 GB paměti s vysokou šířkou pásma (HBM), 128 MB SRAM přímo na čipu, špičkový výkon 12,6 petaflopu FP4 a šířku pásma paměti 6 528 GB/s. U TPU 8i jsou uvedeny hodnoty 288 GB HBM, 384 MB SRAM, špičkový výkon 10,1 petaflopu FP4 a šířka pásma 8 601 GB/s. Oba systémy obsahují hostitelské procesory Axion založené na architektuře Arm, které podle Googlu odstraňují úzké místo způsobené latencí při přípravě dat.

Google tvrdí, že TPU 8t při trénování ve velkém měřítku zvyšuje výkon na dolar oproti Ironwood až 2,7krát a že TPU 8i nabízí u velkých modelů MoE při cílové nízké latenci až o 80 % vyšší výkon na dolar. Oba čipy podle společnosti zároveň dosahují až dvojnásobného výkonu na watt. Google také uvedl, že s frameworkem JAX a softwarem Pathways dokáže škálovat distribuované trénování na více než 1 milion čipů TPU v jednom clusteru a že Virgo Network dokáže propojit více než 134 000 čipů TPU 8t s neblokující propustností v řezu sítě až 47 petabitů za sekundu.

Současná nabídka a dostupnost

Na stránce produktu TPU od Google Cloud jsou modely TPU 8t i TPU 8i uvedeny jako připravované. TPU Ironwood sedmé generace, který tvoří 9 216 kapalinou chlazených čipů v každém modulu a jehož výkon dosahuje 42,5 exaflops, je spolu s TPU Trillium šesté generace uveden jako obecně dostupný. Google popisuje TPU jako integrované obvody se specifickou aplikační funkcí navržené na míru, které pohánějí jeho modely Gemini a klíčové produkty včetně Search, Photos a Maps. Nativně podporují software PyTorch a JAX a inferenční engine vLLM.

Google TPU budou v OCI k dispozici v kalendářním roce 2027. Jejich kapacita se bude v průběhu několika let postupně navyšovat podle potřeb zákazníků, uvedly společnosti.