Meridian Cloud Memilih Aria Networks untuk Merancang Klaster AI Siap Inferensi

Meridian Cloud telah memilih Aria Networks sebagai mitra jaringan untuk layanan cloud inferensi AI khusus yang dijadwalkan diluncurkan pada kuartal kedua 2027. Kedua perusahaan berencana mengembangkan rancangan jaringan standar yang telah tervalidasi agar penerapan klaster lebih mudah diulang, sekaligus memberikan spesifikasi rekayasa, perkiraan biaya, dan jadwal produksi yang lebih jelas.

Kemitraan yang diumumkan pada 5 November ini melibatkan Aria dalam proses perencanaan sebelum peralatan dipasang. Cakupannya meliputi penentuan kapasitas fabric GPU sisi belakang, jaringan sisi depan dan penyimpanan, pemetaan topologi dan pemasangan kabel, serta koordinasi pasokan dan pengiriman agar sesuai dengan jadwal penerapan Meridian.

Rancangan referensi pertama hasil kolaborasi ini diperkirakan akan tersedia bagi pelanggan dan mitra fasilitas Meridian pada Q2 2027. Pengumuman tersebut menjelaskan program pengembangan dan penerapan, bukan peluncuran tuntas layanan cloud inferensi baru Meridian.

Mengurangi Kebutuhan Rekayasa dari Awal untuk Setiap Klaster Baru

Pendekatan Meridian adalah menjalankan tim pusat yang ramping, dengan dukungan mitra spesialis di bidang rekayasa, komputasi, penerapan, dan jaringan. Aria akan membantu mengubah pekerjaan tersebut menjadi pustaka rancangan referensi, yang masing-masing disesuaikan dengan jenis fasilitas tertentu.

Gagasannya adalah memulai dengan daya yang tersedia di suatu lokasi, lalu mencocokkannya dengan konfigurasi yang kebutuhan jaringannya telah tervalidasi. Dengan begitu, Meridian dapat menetapkan spesifikasi dan biaya sebelum konstruksi dimulai, alih-alih harus merancang ulang fabric sebagai pekerjaan rekayasa tersendiri di setiap lokasi.

Bagi pelanggan cloud khusus, standardisasi ini memberikan kepastian. Sebuah klaster tidak hanya ditentukan oleh jumlah akselerator yang dipesan: jalur kabel, kapasitas switch, koneksi host, lalu lintas penyimpanan, dan jadwal pengiriman peralatan turut menentukan kapan sistem dapat mulai melakukan pekerjaan yang bermanfaat.

“Forward Deployed Engineer Aria telah bergabung dengan tim kami sejak hari pertama, bekerja bersama kami dalam perancangan jaringan, perencanaan pasokan dan penerapan, serta memvalidasi setiap kabel, sambungan, dan konfigurasi sebelum pekerjaan pelanggan mulai dijalankan,” kata Vic Rose, CEO Meridian Cloud.

Mengapa Jaringan Menjadi Faktor Kritis dalam Inferensi

Inferensi adalah proses menjalankan model yang telah dilatih untuk menghasilkan jawaban. Dalam penerapan terdistribusi, sebagian proses tersebut dan data pendukungnya dapat berpindah antar-mesin, sehingga waktu komunikasi turut memengaruhi waktu respons yang dialami pengguna.

Salah satu contohnya adalah inferensi terdisagregasi, ketika pemrosesan prompt dan pembuatan token berjalan pada sumber daya yang terpisah. Sistem mungkin perlu memindahkan cache key-value model—data perhatian perantara yang terkait dengan permintaan—di antara keduanya. Kemacetan di jalur tersebut dapat menghambat pekerjaan, bahkan saat GPU itu sendiri tersedia.

Pembahasan teknis Aria tentang jaringan inferensi menekankan pentingnya menghubungkan aktivitas host dengan telemetri jaringan. Port yang tampak berfungsi normal pada dasbor yang diperbarui secara berkala tetap dapat mengalami gangguan singkat yang memengaruhi kinerja aplikasi.

Pengumuman kemitraan ini menyoroti peristiwa kemacetan, penurunan kinerja komponen optik, dan masalah di sisi host yang mungkin luput dari alat yang melakukan pemantauan setiap beberapa detik. Mendeteksi peristiwa tersebut memerlukan tingkat visibilitas yang berbeda dari sekadar mengetahui apakah suatu sambungan aktif.

Bagi bisnis inferensi, dampaknya bersifat komersial sekaligus teknis. Waktu yang dihabiskan untuk menunggu data mengurangi keluaran bermanfaat dari perangkat keras yang terus mengonsumsi daya dan menimbulkan biaya kepemilikan. Ukuran operasional yang relevan mencakup latensi respons, throughput bermanfaat, dan biaya per juta token—bukan hanya kecepatan sambungan.

Keunggulan yang Ditawarkan Deep Networking dari Aria

Aria menjelaskan Deep Networking sebagai sistem yang dirancang bersama dan memadukan perangkat keras switching, Aria Operating System, telemetri terperinci, serta agen khusus. Pengumuman Meridian menyebut platform Aria Switch 800G dan fabric Ethernet berbasis standar yang dirancang agar tetap terbuka bagi berbagai vendor akselerator.

Perusahaan tersebut mengklaim bahwa resolusi telemetrinya 100 hingga 10.000 kali lebih tinggi daripada alat konvensional, di seluruh switch, komponen optik, dan host. Klaim ini merujuk pada resolusi pengukuran, bukan berarti aplikasi Meridian akan berjalan 100 hingga 10.000 kali lebih cepat.

Ikhtisar produk Aria memberikan informasi tambahan tentang perangkat kerasnya: switch 800G-nya memiliki 64 port 800GbE dalam sasis setinggi dua unit rak, mendukung jaringan RoCEv2 dan Layer 2/Layer 3, serta dilengkapi prosesor telemetri khusus. RoCEv2 memungkinkan akses memori langsung jarak jauh melalui Ethernet, kemampuan yang digunakan untuk memindahkan data secara efisien antar-mesin dalam klaster berkinerja tinggi.

Halaman produk yang sama menjelaskan cara menghubungkan data host GPU dengan data switch, memilih alat diagnostik melalui agen khusus, dan menjalankan alur kerja penyelesaian masalah terpandu. Dengan demikian, visibilitas operasional melengkapi rancangan perangkat keras: jaringan harus dapat dipantau dan dipelihara setelah dioperasikan.

Kedua perusahaan belum memublikasikan tolok ukur penerapan Meridian bersama ataupun penurunan biaya per token yang terukur untuk kemitraan ini. Hasil tersebut akan bergantung pada beban kerja dan konfigurasi yang diterapkan, serta perilaku jaringan saat menangani lalu lintas produksi.

Model Inferensi Khusus Meridian

Di situs web-nya, Meridian menjelaskan bahwa layanannya berpusat pada kapasitas khusus yang disesuaikan dengan beban kerja pelanggan, dengan pilihan perangkat keras NVIDIA dan AMD serta akselerator inferensi khusus. Meridian juga menjelaskan model operasi dengan orkestrasi terkelola dan server bare metal.

Semua itu merupakan gambaran tentang penawaran layanan secara lebih luas, bukan konfirmasi bahwa setiap konfigurasi yang diiklankan termasuk dalam pustaka awal desain acuan Aria. Pengumuman kemitraan tersebut tidak menyebutkan lokasi fasilitas pertama, ukuran klaster tetap, ataupun harga bagi pelanggan.

Fokus Meridian pada kapasitas khusus juga mengubah persoalan perencanaan. Alih-alih hanya mengandalkan ketersediaan bersama, pelanggan memerlukan sistem yang dirancang untuk lalu lintas yang diperkirakan, karakteristik model, dan kebutuhan layanannya. Desain jaringan yang dapat diterapkan berulang kali dapat mempermudah perencanaan tersebut, sekaligus tetap menyediakan ruang untuk pilihan yang disesuaikan dengan beban kerja.

Kemitraan yang Berfokus pada Pelaksanaan yang Dapat Diulang

Peran Aria mencakup tahap desain hingga penerapan langsung, dengan pelajaran dari setiap lokasi yang diharapkan dapat menjadi masukan bagi pemasangan berikutnya dan penyempurnaan perangkat lunak. Tujuannya adalah menjadikan rekayasa jaringan sebagai bagian yang dapat digunakan kembali dalam peluncuran Meridian, bukan sumber ketidakpastian yang terus berulang.

Tonggak pencapaian jangka pendeknya sudah jelas: desain acuan bersama dan peluncuran layanan cloud yang direncanakan pada Q2 2027. Setelah itu, keberhasilan kemitraan ini akan ditentukan oleh apakah desain yang telah divalidasi dan visibilitas operasional yang lebih terperinci dapat menghasilkan klaster yang siap sesuai jadwal dan memberikan kinerja inferensi yang konsisten setelah beban kerja pelanggan mulai dijalankan.