Oracle Cloud Infrastructure Akan Menawarkan Akselerator TPU Google

Oracle dan Google mengumumkan pada 27 Oktober 2026, di Oracle AI World di Las Vegas, bahwa Tensor Processing Unit (TPU) Google akan tersedia melalui Oracle Cloud Infrastructure (OCI). Pengumuman Oracle menyebut OCI sebagai platform cloud hiperskala pertama di luar Google yang menawarkan TPU Google, dengan ketersediaan yang direncanakan pada tahun kalender 2027.

Peran Infrastruktur Oracle

OCI akan menyediakan daya, pendinginan, dan jaringan pusat data untuk menerapkan TPU Google dalam skala besar di infrastruktur Oracle. Oracle dan Google mengatakan bahwa TPU tersebut dapat mendukung pelatihan dan pascapelatihan model besar, termasuk model padat dan model campuran pakar (MoE), serta inferensi produksi untuk aplikasi penalaran, berbasis agen, dan berkonteks panjang. Pelanggan akan dapat memilih TPU Google di OCI yang dioptimalkan sesuai beban kerja, persyaratan kinerja, dan sasaran biaya mereka.

“Kebutuhan komputasi setiap beban kerja AI berbeda,” kata Mahesh Thiagarajan, presiden Oracle Cloud Infrastructure. “Dengan menghadirkan TPU Google ke OCI, pelanggan dapat mengakses berbagai arsitektur komputasi AI terkemuka dalam satu cloud.”

Amin Vahdat, wakil presiden senior dan kepala teknolog AI dan infrastruktur di Google, mengatakan bahwa AI generasi berikutnya akan membutuhkan beragam komputasi. Ia mengatakan, menghadirkan TPU Google ke OCI akan memberi lebih banyak organisasi akses ke teknologi tersebut dan fleksibilitas lebih besar dalam membangun serta menjalankan aplikasi AI mereka yang paling kompleks.

Perusahaan-perusahaan tersebut menyebut TPU Google sebagai akselerator khusus yang dirancang bersama perangkat lunak terbuka untuk mendukung seluruh siklus hidup AI, mulai dari pelatihan model mutakhir dan inferensi skala besar hingga kebutuhan penalaran bertahap AI berbasis agen. Mereka mengatakan bahwa portofolio TPU memanfaatkan pengalaman lebih dari satu dekade dalam pengembangan silikon AI khusus, dan menggambarkan arsitekturnya sebagai rancangan untuk memaksimalkan pemrosesan AI dari setiap watt listrik, dengan akses cepat ke data model dan komunikasi antarkeping yang cepat.

Perangkat Keras TPU Generasi Kedelapan

Oracle dan Google menjelaskan bahwa TPU generasi kedelapan terdiri atas dua arsitektur yang dirancang khusus, TPU 8t untuk pelatihan dan TPU 8i untuk inferensi. Mereka mengatakan bahwa TPU 8t memberikan kinerja komputasi per pod hampir 3x lebih tinggi daripada generasi sebelumnya, sekaligus memangkas siklus pengembangan model mutakhir dari hitungan bulan menjadi hitungan minggu. TPU 8i dirancang untuk menangani pekerjaan iteratif dari banyak agen khusus.

Google menguraikan rancangan generasi kedelapan dalam pembahasan teknis mendalam yang diterbitkan pada 22 April 2026. Menurut tulisan tersebut, TPU 8t menggunakan topologi jaringan torus 3D dalam skala 9.600 keping dalam satu superpod dan menambahkan SparseCore, akselerator khusus yang menangani pola akses memori tidak beraturan dalam pencarian embedding, sementara unit perkalian matriks menangani operasi matematika matriks. Keping ini memperkenalkan pemrosesan titik mengambang 4-bit (FP4) bawaan, yang menurut Google menggandakan throughput unit perkalian matriks, serta memiliki bandwidth scale-up dua kali lipat pada interkoneksi antarkeping dibandingkan generasi sebelumnya.

Untuk jaringan dan penyimpanan, Google mengatakan bahwa Virgo Network, fabric scale-out yang dibangun dengan switch ber-radiks tinggi, menyediakan peningkatan bandwidth jaringan pusat data hingga 4x untuk pelatihan TPU 8t. Kemampuan TPUDirect RDMA dan TPUDirect Storage yang baru memindahkan data antara memori TPU, kartu antarmuka jaringan, dan penyimpanan terkelola tanpa melalui CPU host. Menurut Google, kemampuan ini menghasilkan akses penyimpanan 10x lebih cepat dibandingkan pelatihan menggunakan TPU Ironwood generasi ketujuh.

Menurut Google, TPU 8i, yang dioptimalkan untuk pascapelatihan dan penalaran dengan konkurensi tinggi, memiliki SRAM on-chip 3x lebih banyak daripada generasi sebelumnya. Hal ini memungkinkan cache KV yang lebih besar sepenuhnya berada di dalam silikon selama dekode konteks panjang. Collectives Acceleration Engine mengurangi latensi on-chip untuk operasi kolektif sebesar 5x, sementara topologi yang dioptimalkan untuk penyajian bernama Boardfly menghubungkan hingga 1.152 keping melalui papan dan kelompok yang saling terhubung sepenuhnya, dengan pod yang dapat berkembang hingga 36 kelompok yang dihubungkan oleh switch sirkuit optik. Untuk pod dengan 1.024 keping, Google mengatakan Boardfly mengurangi diameter jaringan dari 16 lompatan pada torus 3D yang sebanding menjadi tujuh, sehingga menghasilkan peningkatan latensi hingga 50% untuk beban kerja yang intensif komunikasi.

Spesifikasi yang diterbitkan Google mencantumkan TPU 8t dengan memori bandwidth tinggi (HBM) sebesar 216 GB, SRAM on-chip sebesar 128 MB, kinerja puncak FP4 sebesar 12,6 petaflop, dan bandwidth memori 6.528 GB/s. TPU 8i tercatat memiliki HBM sebesar 288 GB, SRAM sebesar 384 MB, kinerja puncak FP4 sebesar 10,1 petaflop, dan bandwidth 8.601 GB/s. Kedua sistem mengintegrasikan host CPU Axion berbasis Arm, yang menurut Google menghilangkan hambatan pada host akibat latensi persiapan data.

Google mengklaim TPU 8t memberikan peningkatan kinerja per dolar hingga 2,7x dibandingkan Ironwood untuk pelatihan skala besar, sedangkan TPU 8i memberikan peningkatan kinerja per dolar hingga 80% pada sasaran latensi rendah untuk model MoE besar. Kedua keping tersebut memberikan kinerja per watt hingga 2x lebih baik. Perusahaan itu juga mengatakan bahwa dengan kerangka kerja JAX dan perangkat lunak Pathways, pelatihan terdistribusi dapat ditingkatkan hingga mencakup lebih dari 1 juta keping TPU dalam satu klaster, dan Virgo Network dapat menghubungkan lebih dari 134.000 keping TPU 8t dengan bandwidth biseksi nonblocking hingga 47 petabit per detik.

Jajaran Produk dan Ketersediaan Saat Ini

Halaman produk TPU Google Cloud mencantumkan TPU 8t dan TPU 8i sebagai produk yang akan segera tersedia. TPU Ironwood generasi ketujuh, yang dibuat dengan 9.216 cip berpendingin cairan per pod dan memiliki kinerja 42,5 eksaflop, tercantum sebagai tersedia secara umum, bersama Trillium generasi keenam. Google menjelaskan bahwa TPU adalah sirkuit terpadu khusus aplikasi yang dirancang khusus untuk mendukung model Gemini dan produk unggulan Google, termasuk Search, Photos, dan Maps, serta dilengkapi dukungan perangkat lunak bawaan untuk PyTorch dan JAX, dan mesin vLLM untuk inferensi.

Google TPU di OCI akan tersedia pada tahun kalender 2027 dan kapasitasnya akan ditingkatkan secara bertahap selama beberapa tahun untuk memenuhi kebutuhan pelanggan, kata kedua perusahaan tersebut.