Oracle Cloud Infrastructure tilbyr Googles TPU-akseleratorer

Oracle og Google kunngjorde 27. oktober 2026 på Oracle AI World i Las Vegas at Googles Tensor Processing Units (TPU-er) blir tilgjengelige gjennom Oracle Cloud Infrastructure (OCI). Oracles kunngjøring beskriver OCI som den første hyperskalerte skyplattformen utenfor Google som tilbyr Google TPU-er, med planlagt tilgjengelighet i kalenderåret 2027.

Oracles rolle innen infrastruktur

OCI skal levere strøm, kjøling og datasenternettverk for å distribuere Google TPU-er i stor skala i Oracles infrastruktur. Oracle og Google opplyste at TPU-ene kan støtte trening og ettertrening av store modeller, inkludert tette modeller og blandinger av eksperter-modeller (MoE), samt inferens i produksjon for resonnering, agentbaserte applikasjoner og applikasjoner med lang kontekstvindu. Kundene skal kunne velge Google TPU-er i OCI, optimalisert for arbeidsbelastningene deres, ytelseskravene og kostnadsmålene.

«Ulike KI-arbeidsbelastninger har ulike behov for datakraft», sa Mahesh Thiagarajan, president for Oracle Cloud Infrastructure. «Når Google TPU-er blir tilgjengelige i OCI, får kundene tilgang til flere ledende KI-arkitekturer for datakraft i én og samme sky.»

Amin Vahdat, senior visepresident og teknologidirektør for KI og infrastruktur i Google, sa at neste generasjon KI vil kreve et bredt spekter av datakraft. Han sa at når Google TPU-er blir tilgjengelige i OCI, vil flere organisasjoner få tilgang til teknologien og større fleksibilitet i hvordan de utvikler og kjører de mest komplekse KI-applikasjonene sine.

Selskapene beskrev Google TPU-er som spesialutviklede akseleratorer som er utviklet i fellesskap med åpen programvare for å drive hele KI-livssyklusen, fra trening av de mest avanserte modellene og inferens i stor skala til de flertrinnsbaserte resonneringskravene til agentbasert KI. De sa at TPU-porteføljen bygger på mer enn ti års utvikling av spesialutviklet KI-silisium, og beskrev arkitekturen som utformet for å maksimere KI-prosesseringen for hver watt strøm, med rask tilgang til modelldata og rask kommunikasjon mellom brikkene.

TPU-maskinvare i åttende generasjon

Oracle og Google beskrev åttende generasjon TPU-er som to spesialutviklede arkitekturer: TPU 8t for trening og TPU 8i for inferens. De sa at TPU 8t leverer nesten tre ganger så høy regneytelse per pod som forrige generasjon, samtidig som utviklingssyklusene for de mest avanserte modellene forkortes fra måneder til uker. TPU 8i er utviklet for å håndtere det iterative arbeidet til mange spesialiserte agenter.

Google beskrev utformingen av åttende generasjon i en grundig teknisk gjennomgang publisert 22. april 2026. Ifølge innlegget bruker TPU 8t en 3D-torusnettverkstopologi med 9 600 brikker i én enkelt superpod, og har i tillegg en SparseCore, en spesialisert akselerator som håndterer uregelmessige mønstre for minnetilgang ved oppslag i innbygginger, mens matrisemultiplikasjonsenheten håndterer matriseregning. Brikken har fått innebygd støtte for 4-bits flyttallsbehandling (FP4), som ifølge Google dobler gjennomstrømningen i matrisemultiplikasjonsenheten. Den har også dobbelt så høy skaleringsbåndbredde i forbindelsen mellom brikkene som forrige generasjon.

Når det gjelder nettverk og lagring, sa Google at Virgo Network, et utskalerbart nettverk bygget på svitsjer med høy radix, gir opptil fire ganger større båndbredde i datasenternettverket for TPU 8t-trening. De nye funksjonene TPUDirect RDMA og TPUDirect Storage flytter data mellom TPU-minne, nettverkskort og administrert lagring uten å gå via verts-CPU-er. Ifølge Google gir dette 10 ganger raskere tilgang til lagring enn trening på Ironwood TPU-er i sjuende generasjon.

TPU 8i, som er optimalisert for ettertrening og resonnering med høy samtidighet, har tre ganger mer SRAM på brikken enn forrige generasjon. Det gjør at en større KV-hurtigbuffer kan ligge helt på silisiumbrikken under dekoding av lange kontekster, sa Google. En Collectives Acceleration Engine reduserer latenstiden på brikken for kollektive operasjoner med en faktor på fem, og en topologi optimalisert for inferens, kalt Boardfly, kobler sammen opptil 1 152 brikker gjennom fullt sammenkoblede kort og grupper. Podene kan skaleres til 36 grupper som kobles sammen med optiske kretsvitsjer. For en pod med 1 024 brikker sa Google at Boardfly reduserer nettverksdiameteren fra 16 hopp i en tilsvarende 3D-torus til sju, noe som gir opptil 50 % lavere latenstid for arbeidsbelastninger med omfattende kommunikasjon.

Googles publiserte spesifikasjoner oppgir at TPU 8t har 216 GB minne med høy båndbredde (HBM), 128 MB SRAM på brikken, en maksimal FP4-ytelse på 12,6 petaflops og en minnebåndbredde på 6 528 GB/s. For TPU 8i oppgis 288 GB HBM, 384 MB SRAM, en maksimal FP4-ytelse på 10,1 petaflops og en båndbredde på 8 601 GB/s. Begge systemene har integrerte Arm-baserte Axion-CPU-verter, som ifølge Google fjerner flaskehalsen i vertssystemet som skyldes forsinkelser i dataforberedelsen.

Google hevder at TPU 8t gir opptil 2,7 ganger bedre ytelse per dollar enn Ironwood ved trening i stor skala, og at TPU 8i gir opptil 80 % bedre ytelse per dollar ved mål for lav latenstid med store MoE-modeller. Begge brikkene gir opptil dobbelt så høy ytelse per watt. Selskapet sa også at det med rammeverket JAX og programvaren Pathways kan skalere distribuert trening til mer enn 1 million TPU-brikker i én enkelt klynge, og at Virgo Network kan koble sammen mer enn 134 000 TPU 8t-brikker med opptil 47 petabit per sekund i ikke-blokkerende biseksjonsbåndbredde.

Dagens produktutvalg og tilgjengelighet

Googles produktside for TPU-er oppgir at både TPU 8t og TPU 8i snart blir tilgjengelige. Den sjuende generasjonen Ironwood TPU, som er bygget med 9 216 væskekjølte brikker per pod og har en ytelse på 42,5 exaflops, er oppført som allment tilgjengelig, sammen med sjette generasjon Trillium. Google beskriver TPU-er som spesialutformede applikasjonsspesifikke integrerte kretser som driver Gemini-modellene og flaggskipproduktene deres, blant annet Søk, Foto og Maps, med innebygd programvarestøtte for PyTorch og JAX samt vLLM-motoren for inferens.

Google TPU-er på OCI blir tilgjengelige i kalenderåret 2027. Tilgjengeligheten trappes opp over flere år for å dekke kundenes behov, opplyste selskapene.