Google aggiunge TPU 8Tx e TPU 8I Max alla gamma di ottava generazione

Google ha annunciato TPU 8tx e TPU 8i Max il 9 novembre 2026, ampliando il suo portafoglio di acceleratori di ottava generazione. TPU 8tx è destinato all’inferenza confidenziale e all’addestramento su piccola scala, mentre TPU 8i Max è progettato per gestire finestre di contesto molto ampie e aumentare la densità dei rack.

Google ha dichiarato che queste novità fanno del 2026 il primo anno in cui ha presentato quattro sistemi TPU e portano a quasi 100 il numero dei clienti TPU, tra laboratori all’avanguardia, società di trading, rivenditori e università. L’attività TPU nel suo complesso comprende l’infrastruttura Google Cloud e le installazioni nei data center dei clienti.

TPU 8Tx protegge i dati durante l’elaborazione

TPU 8tx è progettato per aziende soggette a normative e amministrazioni pubbliche che eseguono modelli all’avanguardia o proprietari e agenti autonomi insieme a dati sensibili. Risponde a una lacuna della crittografia convenzionale: le informazioni possono essere cifrate quando sono archiviate e durante il trasferimento, ma devono essere decifrate in memoria mentre vengono elaborati i calcoli. L’hardware è concepito per mantenere isolati i dati sensibili e i pesi dei modelli anche durante l’elaborazione attiva.

Il sistema utilizza lo stesso silicio di TPU 8t, progettato per l’addestramento, ma lo abbina a host con CPU AMD EPYC di quinta generazione. Adotta inoltre la rete Boardfly a bassa latenza, sviluppata per il ragionamento in tempo reale. Google dichiara una latenza fino a 2 volte inferiore rispetto a TPU 8t, con una perdita compensativa di prestazioni pressoché nulla.

Questa combinazione consente alle organizzazioni di eseguire e personalizzare modelli su un unico sistema. I team possono perfezionare i modelli usando dati privati, distillare modelli più grandi per crearne di più piccoli e addestrare agenti tramite l’apprendimento per rinforzo. Per tutte e tre le attività, le informazioni private possono rimanere sullo stesso sistema, senza essere trasferite tra cluster separati.

TPU 8I Max punta su memoria e densità dei rack

TPU 8i Max è destinato ai carichi di lavoro in cui decine di agenti operano contemporaneamente su un’intera base di codice software o su ore di video, facendo della larghezza di banda della memoria il collo di bottiglia. La soluzione di Google è un singolo package che contiene due chip TPU 8i a bassa latenza.

Secondo Google, il package offre il doppio della potenza di calcolo, il doppio della SRAM on-chip e il doppio della larghezza di banda della memoria ad alta larghezza di banda (HBM) rispetto a TPU 8i. Il package occupa inoltre lo stesso spazio nel rack, consentendo ai data center di distribuire più potenza di calcolo per piede quadrato e per watt nei carichi di lavoro che richiedono un contesto ampio.

I modelli alla base, TPU 8i e TPU 8t, sono stati presentati al Google Cloud Next il 22 aprile 2026, rispettivamente per il ragionamento in tempo reale e l’addestramento su larga scala. Il design di TPU 8i abbina 288 GB di memoria ad alta larghezza di banda a 384 MB di SRAM on-chip, fornendo la base di riferimento per le risorse di memoria potenziate in 8i Max.

I sistemi modulari riutilizzano il silicio di ottava generazione

Google distingue queste novità dall’arrivo di nuovi chip di base. Progettare e produrre un nuovo chip richiede un ciclo pluriennale, durante il quale vengono disposti miliardi di transistor. Un sistema, invece, definisce come calcolo, rete, archiviazione, packaging e sicurezza vengono assemblati attorno a quel silicio.

Il suo approccio modulare AI Hypercomputer considera le TPU come elementi costitutivi, la cui memoria, rete ottica, packaging e sicurezza possono essere adattati. Google ha dichiarato che i suoi ingegneri possono realizzare supercomputer specializzati in pochi mesi, anziché impiegare gli anni necessari per sviluppare nuovo silicio. Le due novità applicano questo metodo in modi diversi: 8tx modifica gli host, la rete e la sicurezza attorno al silicio destinato all’addestramento, mentre 8i Max modifica il package attorno al silicio destinato all’inferenza.

Da tempo l’azienda progetta congiuntamente le TPU con Google DeepMind, ma ha dichiarato che le organizzazioni esterne contribuiscono sempre più a definire i requisiti, chiedendo finestre di contesto molto ampie e una crittografia specializzata per i carichi di lavoro soggetti a normative. Queste richieste corrispondono direttamente ai due nuovi sistemi.

Con queste novità, la progettazione dei sistemi diventa la leva immediata per specializzare la gamma di acceleratori di Google. L’inferenza confidenziale e gli agenti che richiedono contesti molto ampi comportano vincoli hardware diversi, ma entrambi vengono affrontati con il silicio di ottava generazione già esistente, consentendo a Google di segmentare la propria offerta infrastrutturale senza attendere una nuova generazione di chip di base.