Oracle Cloud Infrastructure tarjoaa Googlen TPU-kiihdyttimiä

Oracle ja Google ilmoittivat 27. lokakuuta 2026 Oracle AI World -tapahtumassa Las Vegasissa, että Googlen Tensor Processing Unit (TPU) -yksiköt tulevat saataville Oracle Cloud Infrastructure (OCI) -pilvipalvelussa. Oraclen ilmoituksen mukaan OCI on ensimmäinen Googlen ulkopuolinen hyperskaalan pilvialusta, joka tarjoaa Googlen TPU-yksiköitä. Niiden on määrä tulla saataville kalenterivuonna 2027.

Oraclen infrastruktuurin rooli

OCI tarjoaa Googlen TPU-yksiköiden laajamittaiseen käyttöönottoon Oraclen infrastruktuurissa tarvittavan sähkön, jäähdytyksen ja datakeskusverkon. Oracle ja Google kertoivat, että TPU-yksiköt soveltuvat suurten mallien koulutukseen ja jälkikoulutukseen, mukaan lukien tiheät mallit ja asiantuntijasekoitemallit (MoE), sekä tuotantokäytössä tapahtuvaan päättelyyn päättely-, agentti- ja pitkän kontekstin sovelluksissa. Asiakkaat voivat valita OCI:ssä Googlen TPU-yksiköitä, jotka on optimoitu heidän työkuormilleen, suorituskykyvaatimuksilleen ja kustannustavoitteilleen.

”Erilaisilla tekoälyn työkuormilla on erilaiset laskentatarpeet”, sanoi Oracle Cloud Infrastructuren johtaja Mahesh Thiagarajan. ”Googlen TPU-yksiköiden tuominen OCI:hin antaa asiakkaille pääsyn useisiin johtaviin tekoälyn laskenta-arkkitehtuureihin yhdessä pilvipalvelussa.”

Googlen tekoäly- ja infrastruktuuriyksiköiden varatoimitusjohtaja ja teknologiajohtaja Amin Vahdat sanoi, että tekoälyn seuraava sukupolvi edellyttää monipuolista laskentakapasiteettia. Hänen mukaansa Googlen TPU-yksiköiden tuominen OCI:hin antaa useammille organisaatioille pääsyn teknologiaan ja lisää joustavuutta niiden monimutkaisimpien tekoälysovellusten rakentamiseen ja käyttöön.

Yhtiöt kuvailivat Googlen TPU-yksiköitä räätälöidyiksi kiihdyttimiksi, jotka on suunniteltu yhdessä avoimen ohjelmiston kanssa tukemaan tekoälyn koko elinkaarta huippumallien koulutuksesta ja laajamittaisesta päättelystä agenttipohjaisen tekoälyn monivaiheisiin päättelytarpeisiin. Ne kertoivat TPU-tuoteperheen pohjautuvan yli vuosikymmenen kokemukseen räätälöityjen tekoälypiirien kehittämisestä. Arkkitehtuuri on suunniteltu maksimoimaan tekoälyn laskentateho jokaisesta sähköwattitunnista sekä mahdollistamaan nopea pääsy mallien tietoihin ja nopea tiedonsiirto piirien välillä.

Kahdeksannen sukupolven TPU-laitteisto

Oracle ja Google kuvailivat kahdeksannen sukupolven TPU-yksiköitä kahdeksi tiettyihin tarkoituksiin suunnitelluksi arkkitehtuuriksi: TPU 8t koulutukseen ja TPU 8i päättelyyn. Yhtiöiden mukaan TPU 8t tarjoaa palvelinryhmää kohden lähes kolminkertaisen laskentatehon edelliseen sukupolveen verrattuna ja lyhentää samalla huippumallien kehityssyklit kuukausista viikkoihin. TPU 8i on suunniteltu monien erikoistuneiden agenttien iteratiiviseen työhön.

Google esitteli kahdeksannen sukupolven rakenteen teknisessä perusteellisessa katsauksessa, joka julkaistiin 22. huhtikuuta 2026. Kirjoituksen mukaan TPU 8t käyttää kolmiulotteista torusverkkotopologiaa, jossa yhdessä superpodissa on 9 600 piiriä. Siihen on lisätty SparseCore-erikoiskiihdytin, joka käsittelee upotusten hakujen epäsäännöllisiä muistihakumalleja matriisikertoimen hoitaessa matriisilaskennan. Piirissä on natiivi 4-bittinen liukulukulaskenta (FP4), jonka Google sanoo kaksinkertaistavan matriisikertoyksikön läpimenon. Lisäksi piirien välisen yhteyden skaalautumiskaistanleveys on kaksinkertainen edelliseen sukupolveen verrattuna.

Verkkojen ja tallennuksen osalta Google kertoi, että suuren porttimäärän kytkimiin perustuva, laajennettava Virgo Network -verkko kasvattaa TPU 8t -koulutuksen datakeskusverkon kaistanleveyden jopa nelinkertaiseksi. Uudet TPUDirect RDMA- ja TPUDirect Storage -ominaisuudet siirtävät tietoja TPU-muistin, verkkokorttien ja hallitun tallennustilan välillä ohittaen isäntäkeskusyksiköt. Googlen mukaan tämä mahdollistaa kymmenen kertaa nopeamman tallennustilan käytön kuin koulutus seitsemännen sukupolven Ironwood-TPU-yksiköillä.

Jälkikoulutukseen ja samanaikaiseen päättelyyn optimoidussa TPU 8i:ssä on kolme kertaa enemmän sirun sisäistä SRAM-muistia kuin edellisessä sukupolvessa. Googlen mukaan näin suurempi KV-välimuisti mahtuu kokonaan sirulle pitkän kontekstin dekoodauksen aikana. Collectives Acceleration Engine vähentää kollektiivisten operaatioiden sirunsisäistä viivettä viisinkertaisesti. Palvelukäyttöön optimoitu Boardfly-topologia yhdistää jopa 1 152 piiriä täysin toisiinsa liitetyillä piirilevyillä ja ryhmillä. Superpodit voivat koostua enintään 36 ryhmästä, jotka yhdistetään optisilla piirikytkimillä. Googlen mukaan 1 024 piirin palvelinryhmässä Boardfly pienentää verkon halkaisijan seitsemään hyppyyn, kun vastaavassa kolmiulotteisessa torusverkossa hyppyjä on 16. Tämä parantaa viiveitä jopa 50 prosenttia viestintää vaativissa työkuormissa.

Googlen julkaisemien teknisten tietojen mukaan TPU 8t:ssä on 216 Gt suuren kaistanleveyden muistia (HBM), 128 Mt sirunsisäistä SRAM-muistia, 12,6 petaflopsin FP4-huippulaskentateho ja 6 528 Gt/s:n muistikaistanleveys. TPU 8i:ssä puolestaan on 288 Gt HBM-muistia, 384 Mt SRAM-muistia, 10,1 petaflopsin FP4-huippulaskentateho ja 8 601 Gt/s:n kaistanleveys. Molempiin järjestelmiin on integroitu Arm-pohjaiset Axion-suoritin-isäntäsolmut, joiden Google sanoo poistavan tiedonvalmistelun viiveestä johtuvan isäntäkoneen pullonkaulan.

Googlen mukaan TPU 8t parantaa suorituskykyä dollaria kohden suurten mallien koulutuksessa jopa 2,7-kertaiseksi Ironwoodiin verrattuna. TPU 8i puolestaan parantaa suurten MoE-mallien suorituskykyä dollaria kohden jopa 80 prosenttia pienen viiveen tavoitteilla. Molemmat piirit tarjoavat yhtiön mukaan jopa kaksinkertaisen suorituskyvyn wattia kohden. Google kertoi myös, että JAX-kehyksen ja Pathways-ohjelmiston avulla se voi skaalata hajautetun koulutuksen yhteen klusteriin, jossa on yli miljoona TPU-piiriä. Virgo Network voi puolestaan yhdistää yli 134 000 TPU 8t -piiriä ja tarjota jopa 47 petabittiä sekunnissa ei-estävää bisektiokaistanleveyttä.

Nykyinen tuotevalikoima ja saatavuus

Google Cloudin TPU-tuotesivulla sekä TPU 8t:n että TPU 8i:n ilmoitetaan olevan tulossa pian. Seitsemännen sukupolven Ironwood TPU, jossa on 9 216 nestejäähdytteistä sirua podia kohden ja jonka suorituskyky on 42,5 eksaflopsia, on ilmoitettu yleisesti saatavilla olevaksi kuudennen sukupolven Trilliumin rinnalla. Googlen mukaan TPU:t ovat räätälöityjä sovelluskohtaisia integroituja piirejä, jotka tehostavat sen Gemini-malleja ja keskeisiä tuotteita, kuten Searchia, Photosia ja Mapsia. Niille on natiivi ohjelmistotuki PyTorchille ja JAXille sekä vLLM-inferenssimoottorille.

Yhtiöiden mukaan Googlen TPU:t tulevat saataville OCI:ssä kalenterivuonna 2027, ja saatavuutta laajennetaan vaiheittain usean vuoden aikana asiakkaiden tarpeiden täyttämiseksi.