Google føjer TPU 8Tx og TPU 8I Max til sortimentet af ottende generation

Google annoncerede TPU 8tx og TPU 8i Max den 9. november 2026 og udvidede dermed sin portefølje af acceleratorer fra ottende generation. TPU 8tx er målrettet fortrolig inferens og træning i mindre skala, mens TPU 8i Max er udviklet til meget store kontekstvinduer og større racktæthed.

Google sagde, at tilføjelserne gør 2026 til det første år, hvor virksomheden har introduceret fire TPU-systemer, og oplyste, at antallet af TPU-kunder nærmer sig 100 på tværs af førende AI-laboratorier, handelsvirksomheder, detailhandlere og universiteter. Den bredere TPU-forretning omfatter både Google Cloud-infrastruktur og installationer i kundernes egne datacentre.

TPU 8Tx beskytter data under behandling

TPU 8tx er udviklet til regulerede virksomheder og offentlige myndigheder, der anvender avancerede eller proprietære modeller og autonome agenter sammen med følsomme data. Den adresserer en svaghed ved traditionel kryptering: Oplysninger kan være krypteret, når de er lagret, og under overførsel, men skal dekrypteres i hukommelsen, mens beregningerne udføres. Hardwaren er beregnet til at holde følsomme data og modelvægte isoleret, selv under aktiv behandling.

Systemet anvender det samme silicium som den træningsfokuserede TPU 8t, men kombinerer det med værter med AMD EPYC-processorer af 5. generation. Det benytter også Boardfly-netværket med lav latenstid, der er udviklet til ræsonnering i realtid. Google oplyser, at latenstiden er op til 2 gange lavere end med TPU 8t, uden næsten noget tilsvarende tab af ydeevne.

Denne kombination gør det muligt for organisationer at køre og tilpasse modeller på ét system. Teams kan finjustere modeller med private data, destillere større modeller til mindre modeller og træne agenter ved hjælp af forstærkningslæring. Private oplysninger kan forblive på systemet under alle tre opgaver i stedet for at blive overført mellem separate klynger.

TPU 8I Max er målrettet hukommelse og racktæthed

TPU 8i Max er målrettet arbejdsbelastninger, hvor snesevis af agenter arbejder samtidig på tværs af en hel softwarekodebase eller med timevis af video, så hukommelsesbåndbredden bliver flaskehalsen. Googles løsning er en enkelt pakke med to TPU 8i-chips med lav latenstid.

Google oplyser, at pakken leverer dobbelt så stor beregningskapacitet, dobbelt så meget SRAM på chippen og dobbelt så stor båndbredde til hukommelse med høj båndbredde (HBM) som TPU 8i. Pakken passer også inden for det eksisterende racks fysiske mål, så datacentre kan levere større computerkraft pr. kvadratfod og pr. watt til arbejdsbelastninger med store kontekstvinduer.

De underliggende TPU 8i og TPU 8t blev præsenteret på Google Cloud Next den 22. april 2026, henholdsvis til ræsonnering i realtid og træning i stor skala. 8i-designet kombinerer 288 GB hukommelse med høj båndbredde med 384 MB SRAM på chippen og danner dermed grundlaget for de hukommelsesressourcer, som 8i Max skalerer op.

Modulære systemer genbruger silicium fra ottende generation

Google skelner mellem disse lanceringer og lanceringen af nye basischips. Udviklingen af en ny chip kræver, at milliarder af transistorer placeres gennem et flerårigt design- og produktionsforløb. Et system afgør derimod, hvordan beregningskraft, netværk, lager, indpakning og sikkerhed sammensættes omkring det pågældende silicium.

Med sin modulære tilgang til AI Hypercomputer behandler Google TPU’er som byggeklodser, hvor hukommelse, optisk netværk, indpakning og sikkerhed kan tilpasses. Google sagde, at ingeniørerne kan levere specialiserede supercomputere på få måneder i stedet for at bruge de år, som udviklingen af nyt silicium kræver. De to tilføjelser anvender denne metode på hver sin måde: 8tx ændrer værterne, netværket og sikkerheden omkring træningssilicium, mens 8i Max ændrer indpakningen omkring inferenssilicium.

Virksomheden har længe udviklet TPU’er i fællesskab med Google DeepMind, men sagde, at eksterne organisationer i stigende grad påvirker kravene med ønsker om meget store kontekstvinduer og specialiseret kryptering til regulerede arbejdsbelastninger. Disse ønsker svarer direkte til de to nye systemer.

Lanceringerne gør systemdesign til det umiddelbare redskab til specialisering i Googles acceleratorudvalg. Fortrolig inferens og agenter, der arbejder med meget store kontekster, stiller forskellige krav til hardwaren, men begge behov imødekommes med eksisterende silicium fra ottende generation. Det gør det muligt for Google at opdele sine infrastrukturtilbud uden at vente på endnu en generation af basischips.