Model dan platform AI

Lumai Memperkenalkan Server AI Optik untuk Era Baru Inferensi

Antoine Tardif
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaKomputasi optik menggantikan elektron dengan foton untuk menghindari batas-batas chip…
Lihat selengkapnya
  • Komputasi optik menggantikan elektron dengan foton untuk menghindari batas-batas chip silikon yang semakin menekan.
  • Lumai menyasar inferensi karena penerapan kini lebih membebani pusat data dibandingkan pelatihan model.
  • Iris Nova memadukan komponen optik dan digital sehingga fasilitas yang ada dapat mengadopsinya tanpa membangun ulang.

Lumai telah mengumumkan apa yang mereka sebut sebagai langkah besar dalam infrastruktur AI: sistem komputasi optik yang dapat menjalankan model bahasa besar dengan parameter miliaran dalam waktu nyata. Sistem baru ini, yang disebut Iris Nova, menandai pergeseran dari pemrosesan berbasis silikon tradisional ke pendekatan yang secara fundamental berbeda yang dibangun dengan cahaya.

Pengumuman ini datang pada saat industri AI sedang beralih dari pelatihan model ke penerapan skala besar, yang menempatkan tekanan luar biasa pada infrastruktur komputasi yang ada.

Melampaui Keterbatasan Silikon

Selama bertahun-tahun, kemajuan AI sangat bergantung pada kemajuan chip silikon, terutama GPU. Namun, model ini mulai menunjukkan tanda-tanda kelelahan. Konsumsi daya meningkat tajam, dan peningkatan kinerja menjadi semakin sulit dicapai tanpa meningkatkan biaya dan kebutuhan energi secara signifikan.

Pendekatan Lumai menggantikan elektron dengan foton. Alih-alih melakukan komputasi melalui sinyal listrik, sistem mereka menggunakan cahaya untuk memproses data. Ini memungkinkan paralelisme besar, di mana jutaan operasi dapat terjadi secara bersamaan dalam ruang tiga dimensi daripada di permukaan silikon datar.

Menurut perusahaan, arsitektur ini dapat memberikan throughput yang jauh lebih tinggi sambil mengurangi konsumsi energi hingga 90% dibandingkan dengan sistem konvensional.

Tekanan yang Meningkat pada Pusat Data

Waktu peluncuran ini mencerminkan tantangan industri yang lebih luas. Beban kerja AI berkembang dengan cepat, terutama dalam inference, yang melibatkan menjalankan model yang telah dilatih dalam aplikasi dunia nyata.

Pusat data semakin terbatas oleh ketersediaan daya. Permintaan energi pusat data global diperkirakan akan berlipat dua pada akhir dekade ini, yang memaksa operator untuk mengeksplorasi solusi tidak konvensional seperti pembangkit listrik khusus dan sumber energi alternatif.

Pada saat yang sama, penskalaan perangkat keras tradisional menjadi kurang efisien. Setiap generasi baru silikon menawarkan perbaikan inkremental, tetapi sering memerlukan energi dan pendinginan yang tidak proporsional.

Lumai memposisikan komputasi optik sebagai cara untuk melewati keterbatasan ini sepenuhnya, bukan memperbaikinya secara inkremental.

Bagaimana Iris Nova Bekerja

Sistem Iris Nova menggunakan arsitektur hibrida yang menggabungkan komponen optik dan digital. Mesin optik menangani operasi matematika inti yang memungkinkan model AI, sedangkan sistem digital konvensional mengelola fungsi perangkat lunak dan kontrol.

Desain ini memungkinkan sistem untuk terintegrasi ke dalam lingkungan pusat data yang ada tanpa memerlukan perubahan total infrastruktur.

Salah satu area di mana sistem ini sangat dioptimalkan adalah tahap “prefill” inference, di mana model memproses sejumlah besar data input sebelum menghasilkan respons. Dengan mempercepat tahap ini, sistem bertujuan untuk meningkatkan throughput dan efisiensi secara keseluruhan.

Lumai melaporkan bahwa Iris Nova dapat menjalankan model seperti Llama 8B dan 70B dalam waktu nyata, mengisyaratkan bahwa sistem ini mampu menangani beban kerja skala produksi, bukan hanya kasus penggunaan eksperimental.

Pergeseran Menuju Era Inference

Peluncuran ini mencerminkan pergeseran yang lebih luas dalam prioritas AI. Sementara pelatihan model yang semakin besar telah mendominasi berita, dampak dunia nyata dari AI sekarang didefinisikan oleh inference—bagaimana efisien model tersebut dapat diterapkan dan diperluas.

Perubahan ini mengungkapkan bottleneck yang kurang terlihat selama fase pelatihan. Beban kerja inference adalah kontinu, sensitif terhadap keterlambatan, dan intensif energi, membuat efisiensi menjadi faktor kritis.

Sistem Lumai dirancang khusus untuk fase ini, dengan fokus pada throughput per watt daripada kekuatan komputasi murni.

Akses Awal dan Implikasi Industri

Server Iris Nova sekarang tersedia untuk evaluasi oleh hyperscalers, perusahaan, dan lembaga penelitian. Sistem tambahan dalam keluarga Iris, termasuk Aura dan Tetra, diharapkan akan mengikuti, memperluas opsi kinerja dan penerapan.

Jika komputasi optik dapat memenuhi janjinya dalam skala besar, itu bisa mengubah ekonomi infrastruktur AI. Konsumsi energi yang lebih rendah dan efisiensi yang lebih tinggi tidak hanya akan mengurangi biaya operasional tetapi juga mengatasi kekhawatiran yang meningkat seputar dampak lingkungan AI.

Walaupun masih belum jelas seberapa cepat teknologi ini akan diadopsi, pengumuman Lumai menyoroti arah yang jelas: masa depan komputasi AI mungkin tidak dibangun hanya pada silikon.

Antoine adalah pemimpin visioner dan mitra pendiri Unite.AI, yang didorong oleh semangat tak tergoyahkan untuk membentuk dan memajukan masa depan AI dan robotika. Sebagai pengusaha yang telah mendirikan beberapa perusahaan, ia percaya bahwa AI akan mengubah masyarakat secara mendasar seperti listrik. Ia kerap berbicara dengan antusias tentang potensi teknologi disruptif dan kecerdasan buatan umum (AGI).

Sebagai futuris, ia berdedikasi untuk menelusuri bagaimana inovasi ini akan membentuk dunia kita. Ia juga merupakan pendiri Securities.io, platform yang berfokus pada investasi dalam teknologi mutakhir yang mendefinisikan ulang masa depan dan mengubah berbagai sektor secara menyeluruh.