Microsoft Mengumumkan Chip AI Maia 300 dan Ekspansi Azure hingga Skala Multi-Gigawatt

Pada 12 Oktober 2026, Microsoft memperkenalkan Azure Maia 300, akselerator AI generasi ketiga dari keluarga yang dikembangkannya sendiri. Microsoft juga menyatakan akan memperluas keluarga Azure Maia hingga mencapai penerapan berskala multi-gigawatt mulai 2027, sehingga Maia menjadi sistem inferensi utama untuk produk dan layanannya.

Scott Guthrie, wakil presiden eksekutif Cloud + AI, mengumumkan chip tersebut dalam unggahan blog resmi Microsoft. Ia menggambarkan Maia 300 sebagai “sistem cerdas yang lengkap” yang dirancang untuk penalaran dengan konteks panjang, pengalaman percakapan yang peka terhadap latensi, dan tugas agentik berkelanjutan yang terdiri atas beberapa langkah. Maia 300 akan mulai diterapkan dalam produksi pada 2027.

Guthrie menulis bahwa dengan meningkatkan efisiensi di seluruh sistem, Microsoft memperkirakan Maia 300 dapat menghasilkan 40% lebih banyak token per megawatt dibandingkan sistem berbasis GPU terkemuka. Dalam konfigurasi penuh dengan 96 akselerator, Maia 300 menghasilkan throughput token pada skala rak hingga 7 kali lipat dibandingkan Maia 200, kata perusahaan itu.

Arsitektur Sistem Maia 300

Maia 300 dirancang dengan arsitektur yang mengutamakan inferensi, istilah yang digunakan Microsoft, dan dioptimalkan untuk beban kerja AI dengan konteks panjang, kebutuhan memori intensif, serta proses dekode yang berat. Menurut perusahaan, pendekatan ini mencakup penyeimbangan komputasi, bandwidth memori, jaringan, dan efisiensi daya pada skala cloud. Arsitektur aliran data yang ditentukan perangkat lunak dipadukan dengan pengoptimalan kernel berbantuan AI untuk menjaga data tetap lokal, mengurangi perpindahan data, dan meningkatkan pemanfaatan sumber daya komputasi, memori, serta jaringan. Microsoft menyatakan bahwa menjadikan aliran data sebagai prinsip desain utama memberi Maia 300 keunggulan kinerja per watt yang signifikan dibandingkan arsitektur GPU tradisional.

Sistem memorinya menggunakan delapan tumpukan HBM4 yang menyediakan bandwidth puncak 18,0 TB/s dalam TDP 950 watt. Dukungan kernel khusus memanfaatkan SRAM pada chip sebagai ruang kerja sementara yang dikelola perangkat lunak untuk mengurangi tekanan pada HBM. Chip ini juga beralih ke desain multi-chiplet yang memisahkan fungsi komputasi, pengontrol memori, dan I/O; chiplet komputasinya dibuat menggunakan proses N2P dari TSMC. Dukungan untuk format presisi rendah tingkat lanjut, termasuk MXFP4 yang disempurnakan, dirancang untuk mengurangi kebutuhan memori dan bandwidth, baik untuk komputasi maupun penyimpanan cache KV. Dengan demikian, ukuran jendela konteks dan throughput dapat ditingkatkan dalam batas daya yang sama.

Dalam hal jaringan, Maia 300 memperlakukan jaringan sebagai perluasan dari arsitektur aliran datanya, alih-alih memindahkan data melalui lapisan komunikasi yang terpisah. Interkoneksi bandwidth tinggi antarakselerator dioptimalkan untuk paralelisme tensor, sementara sistem transport AI khusus menyediakan komunikasi scale-up antarakselerator dan antarrak melalui infrastruktur berbasis Ethernet. Sistem ini membentuk topologi terpadu yang dapat diperluas dari satu rak hingga penerapan berskala pusat data. Pada tingkat rak, 96 akselerator Maia 300 beroperasi dalam batas daya 167 kilowatt, dengan kapasitas HBM 27,6 TB dan bandwidth HBM agregat 1,7 PB/s di seluruh domain scale-up. Microsoft menyatakan bahwa kepadatan tersebut memungkinkannya melayani lebih banyak interaksi AI secara bersamaan dan menjalankan beban kerja yang lebih besar dari setiap rak.

Maia 200 dalam Produksi

Maia 300 menyusul Maia 200, yang sudah menangani beban kerja produksi Microsoft, termasuk Microsoft Copilot, serta mendukung tim MAI dalam mengembangkan model generasi berikutnya. GitHub Copilot dan Microsoft Foundry akan menyusul pada akhir 2026. Dalam berbagai beban kerja ini, chip tersebut menjalankan model OpenAI, model MAI milik Microsoft sendiri, serta keluarga model sumber terbuka terkemuka. Maia 200 sedang diterapkan di Amerika Serikat, Eropa, dan Australia. Microsoft menyatakan bahwa, dibandingkan dengan infrastruktur GPU terkemuka, chip ini menghasilkan hingga 1,7 kali lebih banyak token per watt untuk kemampuan AI bawaan dalam pengalaman Teams, Copilot, dan Cowork.

Guthrie menulis bahwa pengalaman menjalankan model dan layanan AI Microsoft pada Maia 200 secara langsung menjadi masukan bagi desain Maia 300. Menurutnya, kedua generasi ini dirancang untuk mendukung beragam layanan AI Microsoft lainnya: pekerjaan agentik multi-langkah yang mendukung pengalaman pengodean GitHub, penyajian model berskala cloud melalui Microsoft Foundry, inferensi dan pembuatan data untuk tim MAI, serta alur kerja Dragon Copilot yang peka terhadap latensi dan ditujukan untuk mengurangi beban administratif para klinisi.

Microsoft memperkenalkan Maia 200 pada 26 Januari 2026 sebagai akselerator inferensi yang diproduksi menggunakan proses 3 nanometer dari TSMC, dengan inti tensor FP8 dan FP4 bawaan, memori HBM3e 216 GB berkecepatan 7 TB/s, serta SRAM pada chip sebesar 272 MB. Chip ini memuat lebih dari 140 miliar transistor dan menghasilkan komputasi FP4 lebih dari 10 petaFLOPS serta komputasi FP8 lebih dari 5 petaFLOPS dalam batas TDP 750 watt. Jaringan scale-up dua tingkatnya dibangun menggunakan Ethernet standar, dengan bandwidth scale-up dua arah sebesar 2,8 TB/s per akselerator pada klaster yang menampung hingga 6.144 akselerator. Maia 200 pertama kali diterapkan di wilayah pusat data US Central milik Microsoft, dekat Des Moines, Iowa. Microsoft mengumumkan bahwa wilayah US West 3, dekat Phoenix, Arizona, akan menjadi wilayah berikutnya.

Saat peluncuran tersebut, Microsoft menyebut Maia 200 sebagai silikon buatan sendiri dengan kinerja tertinggi di antara semua perusahaan hyperscaler. Microsoft menyebut kinerja FP4-nya tiga kali lipat kinerja Amazon Trainium generasi ketiga, kinerja FP8-nya melampaui TPU generasi ketujuh Google, dan kinerja per dolarnya 30% lebih baik daripada perangkat keras terbaru dalam armadanya. Perusahaan itu juga menyebut Maia 200 sebagai sistem inferensi paling efisien yang pernah diterapkannya.

Microsoft mengatakan akan menyampaikan lebih banyak informasi tentang strategi dan kemajuan Frontier Transformation di Microsoft Ignite 2026 di San Francisco dan secara daring, serta mengarahkan pembaca ke makalah teknis Maia 300 untuk mendapatkan detail arsitektur lebih lanjut.