Perubahan Mendatang dalam Infrastruktur AI: Programmability Beyond Silicon

Sementara seluruh dunia semakin jatuh cinta dengan AI dan semua aplikasinya, ada beberapa hambatan nyata yang menghalangi kesuksesan penuhnya. Ambil, misalnya, infrastruktur pusat data AI, yang menghadapi tantangan keandalan yang signifikan, bottleneck kinerja, dan keterbatasan konsumsi daya yang meningkat, yang membatasi seberapa jauh sistem AI dapat diskalakan dalam praktek. Memang, beban kerja AI yang terus berubah menuntut langkah ke tahap berikutnya dalam pengembangan OCS — OCS berbasis fotonic silikon yang dapat diprogram — yang memungkinkan tingkat fleksibilitas jaringan yang belum pernah terlihat sebelumnya.

Bagaimana kita sampai di sini: Sejarah di balik pengembangan OCS

Switch Sirkuit Optik (OCS) memiliki sejarah panjang dalam teleponi, dimulai pada akhir abad ke-19/awal abad ke-20 ketika komunikasi suara bergantung pada switching sirkuit — secara fisik beralih kabel untuk membangun koneksi telepon antara dua pihak. Switching paket diperkenalkan pada 1960-an sebagai cara untuk menggunakan infrastruktur bersama dengan lebih baik. Ini melibatkan memecah data menjadi paket kecil untuk memungkinkan beberapa transmisi untuk melakukan perjalanan melintasi jaringan pada rute apa pun. Pada 1970-an, paket-paket ini didefinisikan lebih lanjut dalam cara mereka dialamatkan, diarahkan dan disampaikan melintasi sistem yang beragam, dan pada 1980-an, definisi ini — Protokol Kontrol Transmisi/Protokol Internet, atau TCP/IP — menjadi standar Internet untuk memungkinkan jaringan yang sebelumnya tidak kompatibel untuk berkomunikasi di bawah kerangka kerja yang sama. Ketika permintaan jaringan dan skala meningkat pada 1990-an, Switch Paket Listrik (EPS) diperkenalkan. Dengan TCP/IP, EPS mendukung pertumbuhan Internet dan menghubungkan jutaan pengguna secara global. Pada saat yang sama, serat mulai menggantikan tembaga dalam jaringan global, menawarkan kapasitas yang lebih tinggi dan jangkauan yang lebih panjang dan kemampuan untuk mendukung kecepatan multi-terabit.

Lingkungan AI dinamis

Tapi pada awal abad ke-21, beban kerja AI memberikan tekanan luar biasa pada jaringan berbasis elektronik saat ini, memicu pengembangan arsitektur pusat data Switch Sirkuit Optik (OCS) komersial pertama yang berbasis MEMS. Switch optik MEMS adalah perangkat switching all-optical yang menggunakan cermin yang dapat dipindahkan secara mikroskopis untuk mengarahkan cahaya antara serat input dan output tanpa mengubah sinyal menjadi listrik. OCS berbasis MEMS ini mendukung jumlah port yang besar, yang ideal untuk menghubungkan server yang jauh dan mengatasi keterbatasan tembaga di pusat data. Namun, batasan dalam kecepatan rekonfigurasi, biaya per port dan faktor bentuk telah menjadi jelas. Batasan ini mencegah OCS berbasis MEMS untuk memenuhi kebutuhan rekonfigurasi jaringan waktu nyata di jantung mesin komputasi pusat data — jaringan skala — terutama dalam menghadapi beban kerja AI.

Memang, hari ini, batasan OCS berbasis MEMS dan permintaan pada pusat data AI hanya menjadi lebih jelas, berkat perubahan besar, non-linear, dan tidak terduga yang diperkenalkan oleh AI setiap tahun atau setiap enam bulan — jika tidak setiap kuartal. Aktor ekosistem pusat data AI sekarang diminta untuk beradaptasi dengan cepat dan merespons lanskap AI yang terus berubah. Dan perancang jaringan dipaksa untuk merekonfigurasi atau memprogram ulang jaringan pusat data AI mereka sesuai kebutuhan untuk menghindari masalah dalam jaringan, atau mengelola tingkat beban kerja AI yang memerlukan kinerja yang dioptimalkan.

Fotonic silikon yang dapat diprogram: Melampaui jaringan ‘beku’

OCS berbasis fotonic silikon (SiPh) yang dapat diprogram adalah langkah berikutnya dalam pengembangan OCS. Biaya rendah, sangat kompak dan didorong oleh perangkat lunak, chip fotonic ini dapat diprogram ulang secara instan untuk menyesuaikan cara cahaya dan dengan demikian merekonfigurasi jaringan. Dibandingkan dengan MEMS, OCS SiPh yang dapat diprogram adalah teknologi solid-state, yang menghilangkan banyak risiko keandalan karena tidak ada bagian yang bergerak. Teknologi solid-state yang kompatibel dengan CMOS juga berarti bahwa itu dapat mencocokkan target biaya klaster GPU optimum sebesar $100 per radix.

OCS SiPh yang dapat diprogram lebih lanjut memperkuat arsitektur pusat data AI dengan dua cara kritis. Pertama, mereka memungkinkan rekonfigurasi cepat interkoneksi GPU sehingga beban kerja dapat dieksekusi lebih efisien dan selesai lebih cepat. Ketika pelatihan AI berkembang, topologi komunikasi harus berubah secara dinamis — bahkan dalam pekerjaan pelatihan — tanpa kehilangan paket. Ini memerlukan waktu rekonfigurasi yang sangat cepat, area di mana skalabilitas OCS SiPh secara fundamental unggul dari pendekatan berbasis MEMS, mendukung waktu rekonfigurasi dan transduksi yang jauh lebih cepat dari teknologi MEMS.

Kedua, kemampuan pemrograman OCS SiPh memungkinkan fungsi tambahan untuk diintegrasikan langsung ke dalam fabrik switching tanpa skala pada faktor bentuk. Kemampuan seperti telemetri waktu nyata melalui fotodetektor SiGe-integrasi dan amplifikasi tautan dapat dimasukkan untuk meningkatkan kemampuan pengamatan dan meningkatkan ketahanan kegagalan. Sementara OCS berbasis MEMS biasanya memperkenalkan 2–3 dB kerugian optik, implementasi OCS SiPh dapat dirancang untuk efektif tanpa kerugian, meningkatkan fleksibilitas dan efisiensi sistem secara keseluruhan.

Menghadap ke depan

Karena jaringan pusat data sejarah kaku dan tidak dapat mengikuti kebutuhan yang berubah dari pusat data AI, pasar untuk teknologi SiPh yang dapat diprogram menyajikan kesempatan sebesar miliaran dolar. Bersama dengan booming besar ini datang kebutuhan untuk kolaborasi dan kerja sama di antara bisnis yang berada di jantung teknologi baru ini. Untuk itu, ada badan standardisasi OCP — yang mencakup Google, Microsoft, Lumentum dan inovator lainnya — yang bertujuan untuk membuat antarmuka perangkat lunak untuk manajer jaringan yang menggunakan OCS sestandard dan semudah mungkin. Bersama, perusahaan-perusahaan ini ingin berbagi perspektif dan menciptakan standar untuk mendorong teknologi maju dan mempercepat adopsi.

Ketika AI mendorong evolusi di dunia kita, jaringan pusat data AI juga harus berkembang dan menjadi tahan masa depan untuk mendukungnya. OCS SiPh yang dapat diprogram memungkinkan perusahaan untuk mencipta di puncak inovasi dan mewujudkan kesempatan baru dan menarik untuk semua.