OceanStor M900 Membawa Memori Konteks Skala PB ke SuperPoDs Huawei

Huawei memperkenalkan OceanStor M900 Context Memory Storage pada HUAWEI CONNECT 2026 di Shanghai pada 17 September 2026, memperlihatkan sistem penyimpanan yang dirancang untuk inferensi AI di pusat data berskala hiperkualitas. David Wang, Wakil Ketua Dewan dan Ketua Bergilir di Huawei, mempresentasikan produk tersebut dalam pidato utama, dan Huawei menyatakan bahwa satu klaster dapat menyediakan kapasitas cache KV sebesar 64 PB.

Menurut Huawei, sistem ini menyediakan SuperPoDs dengan ruang memori yang sepenuhnya berbagi, menawarkan kapasitas skala PB dan kinerja tingkat TB/s, dibangun di atas jaringan interkoneksi UnifiedBus milik perusahaan. Pidato utama Wang berjudul “Advancing the Agentic World, Building a Solid Silicon Foundation,” dan Huawei menggambarkan peluncuran ini sebagai menandai pergeseran infrastruktur AI dari model yang berfokus pada komputasi menuju kolaborasi yang lebih mendalam antara komputasi, jaringan, dan penyimpanan.

Batas Memori dalam Inferensi AI Berskala Besar

Dalam pengumumannya, Huawei menyebut 2026 sebagai tahun di mana AI beralih dari terobosan teknologi ke implementasi berskala besar, dengan aplikasi yang berkembang dari chatbot menjadi agen yang mampu menyelesaikan tugas kompleks secara mandiri. Perusahaan menyatakan bahwa agen-agen ini banyak diadopsi di sektor-sektor termasuk penelitian ilmiah, perawatan kesehatan, keuangan, dan layanan publik, dan menggambarkan pergeseran ini sebagai awal era AI agenik.

Huawei menyatakan bahwa model besar sedang tumbuh hingga skala parameter 10 triliun sementara model utama sudah mendukung jendela konteks yang melebihi satu juta token, menjadikan inferensi multi‑giliran dan tugas kompleks sebagai hal biasa serta mendorong pertumbuhan berkelanjutan data cache KV. Seiring data tersebut terakumulasi, perusahaan mengatakan bahwa memori on‑chip dan DRAM telah didorong melampaui batasnya baik dari segi kapasitas maupun efisiensi biaya. Sebuah FAQ yang dilampirkan pada pengumuman mendefinisikan cache KV sebagai penyimpanan data Key dan Value yang dihasilkan selama inferensi model besar sehingga dapat digunakan kembali pada inferensi berikutnya, menghindari komputasi berulang. Huawei menggambarkan adanya konsensus industri mengenai pembangunan penyimpanan multi‑tingkat yang mengoordinasikan memori on‑chip, DRAM, dan SSD ke dalam ruang memori yang sepenuhnya berbagi, dan menyatakan bahwa M900 dibangun untuk mengatasi hambatan kapasitas memori dalam konteks ultra‑panjang dan inferensi multi‑giliran. Perusahaan juga menggambarkan SuperPoDs sebagai pilihan optimal untuk infrastruktur AI seiring skala model meningkat.

Tiga Teknologi di Balik M900

Untuk kapasitas, Huawei menyatakan bahwa interkoneksi UnifiedBus memungkinkan OceanStor M900 membangun cache KV multi‑tingkat global skala PB dengan koneksi satu‑lompatan, mengumpulkan dan berbagi cache di seluruh klaster dengan penyimpanan berlapis. Desain ini memperluas cache KV SuperPoD dari memori on‑chip dan DRAM ke SSD, memungkinkan satu klaster menyediakan kapasitas sebesar 64 PB, menurut perusahaan. Huawei mengatakan bahwa kapasitas cache KV yang tersedia per NPU meningkat dari gigabyte ke terabyte, memungkinkan lebih banyak konteks disimpan, dibagikan, dan digunakan kembali, yang diklaim secara signifikan meningkatkan rasio hit cache KV.

Untuk kinerja, Huawei menggambarkan OceanStor M900 sebagai arsitektur pertama di industri yang mengintegrasikan CPU, unit pengontrol jaringan, dan unit pengontrol NAND, menyediakan semantik KV native yang memungkinkan koneksi satu‑lompatan dari NPU SuperPoD ke SSD. Perusahaan melaporkan bahwa menghilangkan konversi protokol dan penerusan CPU mengurangi latensi akses dari milidetik menjadi 60 mikrodetik, penurunan sebesar 90%. Huawei juga melaporkan bandwidth akses agregat sebesar 40 TB/s untuk satu klaster, angka yang diklaim 1,5 kali lebih tinggi dibandingkan solusi sejenis. Dalam skenario pemrograman AI tipikal, perusahaan menyatakan bahwa arsitektur ini menggandakan throughput token pada klaster inferensi dan memotong setengah waktu hingga token pertama.

Untuk biaya, Huawei menyatakan bahwa M900 menggunakan teknologi penyimpanan adaptif KV-aware pertama di industri, yang memprediksi siklus hidup cache KV berdasarkan nilai data dan mendistribusikan data ke media penyimpanan secara sesuai. Perusahaan melaporkan bahwa teknologi ini mendukung hingga 24 penulisan drive per hari, memperpanjang daya tahan SSD sebesar 16 kali, dan memastikan stabilitas selama tiga tahun, mengurangi biaya penggantian media serta operasi dan pemeliharaan dalam infrastruktur inferensi berskala besar.

Posisi Produk dan Detail Acara

Dalam FAQ-nya, Huawei menggambarkan Context Memory Storage, yang diwakili oleh M900, sebagai infrastruktur data baru untuk SuperPoDs di pusat data berskala hiperkualitas, menyediakan memori yang sepenuhnya berbagi skala PB dan memungkinkan penyimpanan berlapis serta penjadwalan efisien cache KV di seluruh memori on‑chip, DRAM, dan SSD. Perusahaan menyatakan bahwa penyimpanan memori konteks akan menjadi penting untuk terus meningkatkan kapasitas dan efisiensi akses cache KV inferensi berskala hiperkualitas. Huawei juga menyatakan akan terus mendorong sinergi perangkat keras‑perangkat lunak serta inovasi tingkat sistem untuk menyediakan infrastruktur AI yang terbuka, efisien, dan berkelanjutan bagi transformasi cerdas lintas industri.

HUAWEI CONNECT 2026, dengan tema “Advancing the Agentic World,” berlangsung dari 17 hingga 19 September 2026, di Shanghai World Expo Exhibition & Convention Center serta Shanghai Expo Center, dan pengumuman menyatakan acara ini meninjau AI dari perspektif strategi, teknologi, dan ekosistem. Halaman resmi acara mencantumkan program yang meliputi tiga pidato utama, 20 pertemuan puncak, lebih dari 60 sesi, dan lebih dari 200 pidato terbuka, dengan pembicara utama yang dijadwalkan termasuk CEO Linux Foundation Jim Zemlin, Ketua iFLYTEK Liu Qingfeng, dan CEO Huawei Cloud Peter Zhou.