Oracle Cloud Infrastructure vil tilbyde Googles TPU-acceleratorer

Oracle og Google meddelte den 27. oktober 2026 på Oracle AI World i Las Vegas, at Googles Tensor Processing Units (TPU’er) bliver tilgængelige via Oracle Cloud Infrastructure (OCI). Oracles meddelelse beskriver OCI som den første hyperscale-cloudplatform uden for Google, der tilbyder Google TPU’er, med tilgængelighed planlagt til kalenderåret 2027.

Oracles rolle inden for infrastruktur

OCI leverer strøm, køling og datacenternetværk, så Google TPU’er kan udrulles i stor skala i Oracles infrastruktur. Oracle og Google oplyste, at TPU’erne kan bruges til træning og eftertræning af store modeller, herunder tætte modeller og mixture-of-experts-modeller (MoE), samt til inferens i produktion for ræsonnering, agentbaserede applikationer og applikationer med lang kontekst. Kunderne kan vælge Google TPU’er i OCI, der er optimeret til deres arbejdsbelastninger, ydelseskrav og omkostningsmål.

»Forskellige AI-arbejdsbelastninger kræver forskellige beregningsressourcer,« sagde Mahesh Thiagarajan, direktør for Oracle Cloud Infrastructure. »Når Google TPU’er bliver tilgængelige i OCI, får kunderne adgang til flere førende AI-beregningsarkitekturer i én cloud.«

Amin Vahdat, senior vicepræsident og chefteknolog for AI og infrastruktur hos Google, sagde, at næste generation af AI vil kræve et bredt udvalg af beregningsressourcer. Han sagde, at når Google TPU’er bliver tilgængelige i OCI, får flere organisationer adgang til teknologien og større fleksibilitet i, hvordan de udvikler og kører deres mest komplekse AI-applikationer.

Virksomhederne beskrev Google TPU’er som specialudviklede acceleratorer, der er udviklet sammen med åben software til at understøtte hele AI-livscyklussen – fra frontlinjetræning og inferens i stor skala til de krav om ræsonnering i flere trin, som agentbaseret AI stiller. De sagde, at TPU-produktporteføljen bygger på mere end et årtis udvikling af specialudviklede AI-chips, og beskrev arkitekturen som designet til at maksimere AI-beregningerne for hver watt elektricitet, med hurtig adgang til modeldata og hurtig kommunikation mellem chips.

TPU-hardware af ottende generation

Oracle og Google beskrev ottende generations TPU som to arkitekturer, der er specialbygget til hvert sit formål: TPU 8t til træning og TPU 8i til inferens. De oplyste, at TPU 8t leverer næsten tre gange så høj beregningsydelse pr. pod som den foregående generation, samtidig med at udviklingsforløbet for frontlinjemodeller forkortes fra måneder til uger. TPU 8i er designet til at håndtere det iterative arbejde, som mange specialiserede agenter udfører.

Google beskrev designet af ottende generation i en teknisk gennemgang offentliggjort den 22. april 2026. Ifølge indlægget anvender TPU 8t en 3D-torusnetværkstopologi i en skala med 9.600 chips i én superpod og tilføjer en SparseCore, en specialiseret accelerator, der håndterer de uregelmæssige mønstre for hukommelsesadgang ved opslag af indlejringer, mens matrixmultiplikationsenheden udfører matrixberegningerne. Chippen introducerer indbygget behandling med 4-bit flydende kommatal (FP4), som ifølge Google fordobler gennemløbet i matrixmultiplikationsenheden, og har dobbelt så stor båndbredde til skalering op på sammenkoblingen mellem chips som den foregående generation.

Om netværk og lagerplads oplyste Google, at virksomhedens Virgo Network, et skalerbart netværksstof baseret på switches med høj radix, giver op til fire gange større båndbredde i datacenternetværket til træning med TPU 8t. De nye funktioner TPUDirect RDMA og TPUDirect Storage flytter data mellem TPU-hukommelse, netværkskort og administreret lagerplads uden at gå gennem værts-CPU’er. Ifølge Google giver det 10 gange hurtigere adgang til lagerplads end træning på Ironwood-TPU’er af syvende generation.

TPU 8i, der er optimeret til eftertræning og ræsonnering med høj samtidighed, har tre gange mere SRAM på chippen end den foregående generation. Det gør det muligt at have en større KV-cache liggende udelukkende på silicium under afkodning med lang kontekst, oplyste Google. En Collectives Acceleration Engine reducerer latenstiden på chippen for kollektive operationer med en faktor 5, og en topologi optimeret til inferens, kaldet Boardfly, forbinder op til 1.152 chips via fuldt sammenkoblede boards og grupper. Pods kan skaleres til 36 grupper, der er forbundet med optiske kredsløbsswitche. For en pod med 1.024 chips oplyste Google, at Boardfly reducerer netværkets diameter fra 16 hop i en tilsvarende 3D-torus til syv, hvilket giver op til 50 % lavere latenstid for arbejdsbelastninger med stort kommunikationsbehov.

Googles offentliggjorte specifikationer angiver, at TPU 8t har 216 GB hukommelse med høj båndbredde (HBM), 128 MB SRAM på chippen, en maksimal FP4-ydelse på 12,6 petaflops og en hukommelsesbåndbredde på 6.528 GB/s. TPU 8i er angivet med 288 GB HBM, 384 MB SRAM, en maksimal FP4-ydelse på 10,1 petaflops og en båndbredde på 8.601 GB/s. Begge systemer integrerer Arm-baserede Axion-CPU-headere, som ifølge Google fjerner flaskehalsen i værtsmaskinen, der skyldes latenstid ved dataforberedelse.

Google hævder, at TPU 8t giver op til 2,7 gange bedre ydelse pr. dollar end Ironwood ved træning i stor skala, og at TPU 8i giver op til 80 % bedre ydelse pr. dollar ved mål for lav latenstid med store MoE-modeller. Begge chips giver op til dobbelt så høj ydelse pr. watt. Virksomheden sagde også, at den med JAX-rammeværket og Pathways-softwaren kan skalere distribueret træning til over 1 million TPU-chips i én klynge, og at Virgo Network kan forbinde over 134.000 TPU 8t-chips med en ikke-blokerende bisektionsbåndbredde på op til 47 petabit pr. sekund.

Nuværende produktudvalg og tilgængelighed

Google Clouds TPU-produktside angiver, at både TPU 8t og TPU 8i snart bliver tilgængelige. Den syvende generation af Ironwood TPU, der er bygget med 9.216 væskekølede chips pr. pod og har en ydeevne på 42,5 eksaflops, er opført som generelt tilgængelig sammen med sjette generation af Trillium. Google beskriver TPU’er som specialdesignede applikationsspecifikke integrerede kredsløb, der driver virksomhedens Gemini-modeller og flagskibsprodukter, herunder Search, Photos og Maps, med indbygget softwaresupport til PyTorch og JAX samt inferensmotoren vLLM.

Googles TPU’er på OCI bliver tilgængelige i kalenderåret 2027 og vil blive skaleret op over en flerårig periode for at imødekomme kundernes behov, oplyste virksomhederne.