Google Menambahkan TPU 8Tx dan TPU 8I Max ke Jajaran Generasi Kedelapan

Google mengumumkan TPU 8tx dan TPU 8i Max pada 9 November 2026, memperluas jajaran akselerator generasi kedelapannya. TPU 8tx ditujukan untuk inferensi rahasia dan pelatihan skala kecil, sedangkan TPU 8i Max dirancang untuk menangani jendela konteks yang sangat besar dan kepadatan rak yang lebih tinggi.

Google mengatakan penambahan ini menjadikan 2026 tahun pertama perusahaan memperkenalkan empat sistem TPU. Google juga menyebut jumlah pelanggan TPU hampir mencapai 100, mencakup laboratorium AI terdepan, perusahaan perdagangan, peritel, dan universitas. Bisnis TPU secara lebih luas mencakup infrastruktur Google Cloud dan penerapan di pusat data milik pelanggan sendiri.

TPU 8Tx Melindungi Data Selama Pemrosesan

TPU 8tx dirancang untuk perusahaan di sektor yang diatur dan lembaga pemerintah yang menjalankan model AI mutakhir atau model eksklusif serta agen otonom dengan data sensitif. Sistem ini mengatasi celah dalam enkripsi konvensional: informasi dapat dienkripsi saat disimpan dan saat dikirim, tetapi harus didekripsi di memori ketika komputasi berlangsung. Perangkat kerasnya dirancang untuk menjaga data sensitif dan bobot model tetap terisolasi, bahkan saat sedang diproses.

Sistem ini menggunakan silikon yang sama dengan TPU 8t yang berfokus pada pelatihan, tetapi dipasangkan dengan host CPU AMD EPYC Generasi ke-5. Sistem ini juga menggunakan jaringan Boardfly berlatensi rendah yang dikembangkan untuk penalaran waktu nyata. Google melaporkan latensi hingga 2 kali lebih rendah dibandingkan TPU 8t, dengan hampir tanpa mengorbankan kinerja.

Kombinasi ini memungkinkan organisasi menjalankan dan menyesuaikan model dalam satu sistem. Tim dapat menyempurnakan model menggunakan data privat, mendistilasi model yang lebih besar menjadi model yang lebih kecil, dan melatih agen melalui pembelajaran penguatan. Untuk ketiga tugas tersebut, informasi privat dapat tetap berada di sistem itu, alih-alih dipindahkan di antara klaster yang terpisah.

TPU 8I Max Menyasar Kapasitas Memori dan Kepadatan Rak

TPU 8i Max ditujukan untuk beban kerja yang melibatkan puluhan agen yang bekerja secara bersamaan di seluruh basis kode perangkat lunak atau memproses video berdurasi berjam-jam, sehingga bandwidth memori menjadi hambatan. Solusi Google adalah satu paket yang berisi dua chip TPU 8i berlatensi rendah.

Google melaporkan bahwa paket ini menyediakan daya komputasi dua kali lipat, SRAM on-chip dua kali lipat, dan bandwidth memori bandwidth tinggi (HBM) dua kali lipat dibandingkan TPU 8i. Paket ini juga tetap sesuai dengan ukuran rak yang sudah ada, sehingga pusat data dapat menyediakan lebih banyak daya komputasi per kaki persegi dan per watt untuk beban kerja yang membutuhkan konteks besar.

TPU 8i dan TPU 8t yang mendasari sistem ini diperkenalkan di Google Cloud Next pada 22 April 2026, masing-masing untuk penalaran waktu nyata dan pelatihan skala besar. Desain 8i memadukan memori bandwidth tinggi sebesar 288 GB dengan SRAM on-chip sebesar 384 MB, sebagai dasar sumber daya memori yang kapasitasnya ditingkatkan pada 8i Max.

Sistem Modular Menggunakan Kembali Silikon Generasi Kedelapan

Google membedakan peluncuran ini dari kehadiran chip dasar baru. Untuk membuat chip baru, tata letak miliaran transistor harus dirancang melalui siklus desain dan manufaktur yang berlangsung selama beberapa tahun. Sebaliknya, sistem menentukan bagaimana komputasi, jaringan, penyimpanan, pengemasan, dan keamanan dirangkai di sekitar silikon tersebut.

Pendekatan AI Hypercomputer modularnya memperlakukan TPU sebagai komponen dasar yang memori, jaringan optik, pengemasan, dan keamanannya dapat disesuaikan. Google mengatakan para insinyur dapat menghadirkan superkomputer khusus dalam hitungan bulan, bukan beberapa tahun seperti yang diperlukan untuk membuat silikon baru. Kedua produk tambahan ini menerapkan metode tersebut dengan cara berbeda: 8tx mengubah host, jaringan, dan keamanan di sekitar silikon untuk pelatihan, sedangkan 8i Max mengubah paket di sekitar silikon untuk inferensi.

Google telah lama merancang TPU bersama Google DeepMind, tetapi mengatakan bahwa organisasi eksternal semakin berperan dalam menentukan persyaratan melalui permintaan akan jendela konteks yang sangat besar dan enkripsi khusus untuk beban kerja di sektor yang diatur. Permintaan tersebut secara langsung berkaitan dengan kedua sistem baru ini.

Peluncuran ini menjadikan desain sistem sebagai sarana langsung untuk melakukan spesialisasi pada jajaran akselerator Google. Inferensi rahasia dan agen yang membutuhkan konteks sangat besar memiliki kendala perangkat keras yang berbeda, tetapi keduanya ditangani dengan silikon generasi kedelapan yang sudah ada. Dengan demikian, Google dapat membedakan penawaran infrastrukturnya tanpa harus menunggu generasi chip dasar berikutnya.