Google lägger till TPU 8Tx och TPU 8I Max i produktutbudet av åttonde generationen

Google meddelade den 9 november 2026 att TPU 8tx och TPU 8i Max utökar företagets utbud av acceleratorer av åttonde generationen. TPU 8tx är avsedd för konfidentiell inferens och småskalig träning, medan TPU 8i Max är utformad för mycket stora kontextfönster och högre rackdensitet.

Google uppgav att de nya systemen gör 2026 till det första året då företaget har lanserat fyra TPU-system. Företaget uppskattar att antalet TPU-kunder nu är nära 100, däribland ledande AI-labb, handelsföretag, återförsäljare och universitet. Den bredare TPU-verksamheten omfattar både Google Clouds infrastruktur och driftsättningar i kundernas egna datacenter.

TPU 8Tx skyddar data under bearbetning

TPU 8tx är utformad för reglerade företag och myndigheter som använder ledande eller proprietära modeller och autonoma agenter tillsammans med känsliga data. Den hanterar en brist i konventionell kryptering: information kan krypteras när den lagras och överförs, men måste dekrypteras i minnet medan beräkningarna pågår. Hårdvaran är avsedd att hålla känsliga data och modellvikter isolerade även under aktiv bearbetning.

Systemet använder samma kisel som den träningsinriktade TPU 8t, men kombinerar det med värdsystem med AMD EPYC-processorer av femte generationen. Det använder också Boardfly-nätverket med låg latens, som utvecklats för resonemang i realtid. Google uppger att latensen är upp till två gånger lägre än med TPU 8t, med nästan ingen motsvarande prestandaförlust.

Den kombinationen gör det möjligt för organisationer att köra och anpassa modeller i ett och samma system. Team kan finjustera modeller med privata data, destillera större modeller till mindre och träna agenter med hjälp av förstärkningsinlärning. De privata uppgifterna kan stanna kvar i systemet för alla tre uppgifterna, i stället för att överföras mellan separata kluster.

TPU 8I Max är inriktad på minne och rackdensitet

TPU 8i Max riktar sig till arbetsbelastningar där dussintals agenter samtidigt arbetar med en hel programvarukodbas eller flera timmars videomaterial, vilket gör minnesbandbredden till en flaskhals. Googles lösning är ett enda paket med två TPU 8i-chip med låg latens.

Google uppger att paketet ger dubbelt så stor beräkningskapacitet, dubbelt så mycket SRAM på chipet och dubbla bandbredden för höghastighetsminne (HBM) jämfört med TPU 8i. Paketet ryms också inom det befintliga rackutrymmet, vilket gör att datacenter kan driftsätta mer beräkningskraft per kvadratfot och per watt för arbetsbelastningar med stora kontextfönster.

De underliggande TPU 8i och TPU 8t presenterades på Google Cloud Next den 22 april 2026, för resonemang i realtid respektive storskalig träning. 8i-designen kombinerar 288 GB höghastighetsminne med 384 MB SRAM på chipet och utgör därmed utgångspunkten för de minnesresurser som 8i Max utökar.

Modulära system återanvänder kisel från åttonde generationen

Google skiljer dessa lanseringar från lanseringen av nya grundchip. Ett nytt chip kräver att miljarder transistorer utformas och placeras genom en flerårig design- och tillverkningscykel. Ett system avgör i stället hur beräkningskapacitet, nätverk, lagring, paketering och säkerhet sätts samman kring kislet.

Företagets modulära AI Hypercomputer-strategi behandlar TPU:er som byggstenar vars minne, optiska nätverk, paketering och säkerhet kan anpassas. Google uppgav att ingenjörer kan leverera specialiserade superdatorer på några månader i stället för att behöva vänta de år som krävs för nytt kisel. De två tilläggen tillämpar metoden på olika sätt: 8tx förändrar värdsystemen, nätverket och säkerheten kring kisel för träning, medan 8i Max förändrar paketeringen kring kisel för inferens.

Företaget har länge samutvecklat TPU:er med Google DeepMind, men uppgav att externa organisationer i allt högre grad påverkar kraven genom önskemål om mycket stora kontextfönster och specialiserad kryptering för reglerade arbetsbelastningar. Dessa önskemål motsvarar direkt de två nya systemen.

Lanseringarna gör systemdesign till den omedelbara hävstången för specialisering i Googles acceleratorutbud. Konfidentiell inferens och agenter som arbetar med mycket stora kontextfönster ställer olika krav på hårdvaran, men båda behoven tillgodoses med befintligt kisel av åttonde generationen. Det gör att Google kan segmentera sitt infrastrukturutbud utan att invänta ännu en generation grundchip.