Google voegt TPU 8Tx en TPU 8I Max toe aan de line-up van de achtste generatie

Google maakte op 9 november 2026 de TPU 8tx en TPU 8i Max bekend en breidde daarmee zijn acceleratorportfolio van de achtste generatie uit. De TPU 8tx is bedoeld voor vertrouwelijke inferentie en kleinschalige training, terwijl de TPU 8i Max is ontworpen voor enorme contextvensters en een hogere rekdichtheid.

Google zei dat deze toevoegingen ervoor zorgen dat het in 2026 voor het eerst vier TPU-systemen heeft geïntroduceerd. Het aantal TPU-klanten komt daarmee uit op bijna 100, verspreid over toonaangevende onderzoekslabs, handelsbedrijven, retailers en universiteiten. De bredere TPU-activiteiten omvatten zowel de infrastructuur van Google Cloud als implementaties in de eigen datacenters van klanten.

TPU 8Tx beschermt gegevens tijdens de verwerking

De TPU 8tx is bedoeld voor gereguleerde bedrijven en overheden die met gevoelige gegevens werken en daarbij geavanceerde of bedrijfseigen modellen en autonome agents inzetten. Het systeem pakt een tekortkoming van conventionele versleuteling aan: gegevens kunnen in rust en tijdens overdracht versleuteld zijn, maar moeten tijdens berekeningen in het geheugen worden ontsleuteld. De hardware moet gevoelige gegevens en modelgewichten afgeschermd houden, zelfs tijdens actieve verwerking.

Het systeem gebruikt hetzelfde silicium als de op training gerichte TPU 8t, maar combineert dat met hostcomputers met AMD EPYC-processors van de 5e generatie. Ook maakt het gebruik van het Boardfly-netwerk met lage latentie, dat is ontwikkeld voor redeneren in realtime. Volgens Google is de latentie tot 2x lager dan bij de TPU 8t, met vrijwel geen daartegenover staand prestatieverlies.

Dankzij die combinatie kunnen organisaties modellen op één systeem uitvoeren en aanpassen. Teams kunnen modellen verder trainen met privégegevens, grotere modellen distilleren tot kleinere en agents trainen met reinforcement learning. Voor alle drie de taken kunnen de privégegevens op dat systeem blijven, in plaats van te worden overgedragen tussen afzonderlijke clusters.

TPU 8I Max is gericht op geheugen en rekdichtheid

De TPU 8i Max is bedoeld voor workloads waarbij tientallen agents tegelijk een volledige softwarecodebase of uren aan video verwerken, waardoor de geheugenbandbreedte de bottleneck wordt. Google pakt dit aan met één package waarin twee TPU 8i-chips met lage latentie zijn ondergebracht.

Volgens Google levert het package twee keer zoveel rekenkracht, twee keer zoveel on-chip-SRAM en twee keer zoveel bandbreedte voor geheugen met hoge bandbreedte (HBM) als de TPU 8i. Het package past bovendien binnen de bestaande footprint van het rek, zodat datacenters voor workloads met grote contextvensters meer rekenkracht per vierkante voet en per watt kunnen inzetten.

De onderliggende TPU 8i en TPU 8t werden geïntroduceerd tijdens Google Cloud Next op 22 april 2026, respectievelijk voor redeneren in realtime en training op grote schaal. Het ontwerp van de 8i combineert 288 GB geheugen met hoge bandbreedte met 384 MB on-chip-SRAM en vormt daarmee de basis voor de geheugenbronnen die de 8i Max opschaalt.

Modulaire systemen hergebruiken silicium van de achtste generatie

Google maakt onderscheid tussen deze introducties en de komst van nieuwe basischips. Voor een nieuwe chip moeten miljarden transistors worden ontworpen en geplaatst in een ontwerp- en productiecyclus die meerdere jaren duurt. Bij een systeem gaat het er juist om hoe rekenkracht, netwerken, opslag, packaging en beveiliging rond dat silicium worden samengebracht.

In de modulaire aanpak van AI Hypercomputer dienen TPU’s als bouwstenen waarvan het geheugen, de optische netwerktechnologie, de packaging en de beveiliging kunnen worden aangepast. Google zei dat technici gespecialiseerde supercomputers in enkele maanden kunnen leveren, in plaats van de jaren die voor nieuw silicium nodig zijn. De twee toevoegingen passen die methode op verschillende manieren toe: bij de 8tx worden de hosts, het netwerk en de beveiliging rond het trainingssilicium aangepast, terwijl de 8i Max het package rond het inferentiesilicium verandert.

Het bedrijf ontwerpt al lange tijd samen met Google DeepMind TPU’s, maar zei dat externe organisaties steeds vaker de vereisten bepalen. Ze vragen om enorme contextvensters en gespecialiseerde versleuteling voor gereguleerde workloads. Die verzoeken sluiten rechtstreeks aan op de twee nieuwe systemen.

Met deze introducties is systeemontwerp de meest directe manier geworden om de accelerators van Google te specialiseren. Vertrouwelijke inferentie en agents die met enorme contextvensters werken, stellen verschillende eisen aan de hardware. Beide toepassingen worden echter ondersteund door bestaand silicium van de achtste generatie, zodat Google zijn infrastructuuraanbod kan segmenteren zonder te hoeven wachten op een nieuwe generatie basischips.