Elad Raz, CEO NextSilicon – Seri Wawancara

Elad Raz, CEO NextSilicon, adalah seorang pengusaha berpengalaman dan pemimpin teknologi yang sangat dihormati karena keahliannya yang mendalam dalam sistem tingkat rendah, keamanan, jaringan, dan pengembangan sistem file. Selama karirnya yang meliputi peran teknik militer elit, kepemimpinan perangkat lunak senior, membangun perusahaan, dan berinvestasi jangka panjang, Raz telah memimpin proyek-proyek kompleks dan kritis yang melibatkan internal sistem operasi dan integrasi perangkat lunak-keras. Sebelum mendirikan NextSilicon, ia membangun dan keluar dari beberapa perusahaan teknologi, menjabat sebagai pemimpin senior di sebuah perusahaan semikonduktor terkemuka, dan berinvestasi dalam portofolio startup yang beragam, menggabungkan kedalaman teknik dengan eksekusi yang kuat dan visi strategis jangka panjang.

NextSilicon adalah sebuah perusahaan komputasi kinerja tinggi dan semikonduktor asal Israel yang didirikan pada tahun 2017 dan sedang mendefinisikan ulang arsitektur komputasi untuk beban kerja yang menuntut seperti AI dan komputasi ilmiah. Perusahaan ini telah mengembangkan platform komputasi cerdas yang didefinisikan perangkat lunak yang dirancang untuk mengirimkan kinerja tinggi dan efisiensi tanpa memerlukan pengembang untuk menulis ulang aplikasi. Dengan fokus pada adaptasi pada tingkat perangkat keras, NextSilicon bertujuan untuk mengatasi hambatan fundamental dalam pusat data modern dan lingkungan superkomputasi, memposisikan diri sebagai alternatif generasi berikutnya untuk akselerator tradisional.

Apakah Anda bisa menceritakan tentang perjalanan Anda hingga pendirian NextSilicon? Apa yang memicu ide awal, dan bagaimana pengalaman Anda dengan komputasi membentuk visi Anda?

Saya telah terpesona oleh komputer sejak saya masih kecil. Ketertarikan itu membawa saya dari mengutak-atik komputer Commodore 64 dan Atari (yang saya masih kumpulkan hingga hari ini) hingga mendirikan startup, dan akhirnya menjual perusahaan saya sebelumnya ke Mellanox. Namun, bahkan dengan kesuksesan awal itu, saya terus melihat tantangan yang sama berulang kali dalam industri ini. Ketika beban kerja komputasi menjadi lebih kompleks, arsitektur CPU dan GPU tradisional mencapai batas kinerja, efisiensi daya, dan skalabilitas. Baik dalam mengoptimalkan algoritma atau menjalankan simulasi skala besar, menjadi jelas bahwa arsitektur saat ini memaksa beban kerja untuk menyesuaikan diri dengan perangkat keras – bukan sebaliknya.

Api untuk NextSilicon berasal dari tantangan berulang ini dan memunculkan pertanyaan: Bagaimana jika kita bisa membalik skrip dan membangun arsitektur komputasi yang menyesuaikan diri dengan beban kerja, bukan memaksa beban kerja untuk menyesuaikan diri dengan perangkat keras? Paparan awal saya terhadap desain algoritma dan perangkat keras mengajarkan saya bahwa terobosan nyata akan datang dari menggabungkan keduanya secara real-time. Itulah dasar dari Arsitektur Komputasi Cerdas (ICA) kami dan visi panduan NextSilicon sejak awal.

Maverick-2 digambarkan sebagai Akselerator Komputasi Cerdas yang menyesuaikan diri dengan beban kerja waktu nyata. Bagaimana arsitektur ini berbeda dari GPU atau FPGA tradisional, dan apa yang memungkinkan tingkat adaptasi seperti itu?

CPUs dan GPUs telah mengubah dunia kita dan telah melayani kita dengan baik. Namun, mereka tidak dirancang untuk memenuhi tuntutan beban kerja AI dan komputasi kinerja tinggi (HPC) modern di bidang seperti sains, cuaca, energi, dan pertahanan. Beban kerja ini memiliki ketergantungan data yang kompleks, pola akses memori, dan pola komputasi yang prosesor saat ini tidak dirancang untuk menanganinya. Hasilnya adalah bottleneck yang memperlambat inovasi.

Perbedaan kunci Maverick-2 adalah pendekatan baru yang menggabungkan mesin dataflow yang dapat dikonfigurasi ulang dengan optimasi perangkat lunak waktu nyata. Perbedaan arsitektur utama adalah bahwa perangkat keras dikonfigurasi berdasarkan beban kerja Anda, bukan sebaliknya. Untuk Maverick-2, ketersediaan data mengarahkan komputasi, bukan program counter yang mengarahkan eksekusi instruksi seperti pada prosesor tradisional. Ini memungkinkan kami untuk membuat unit pemrosesan virtual yang didefinisikan perangkat lunak yang dapat dikonfigurasi dan dikonfigurasi ulang secara real-time untuk mencocokkan pola beban kerja tertentu.

Hasilnya berbicara sendiri: Maverick-2 memberikan lebih dari 4 kali kinerja-per-watt dari GPU dan lebih dari 20 kali dari CPU, sambil mengurangi biaya operasional lebih dari setengahnya. Sebagai hasilnya, peneliti dan insinyur dapat menjalankan simulasi besar dan tidak teratur dengan lebih cepat dan efisien, membuka wawasan dan terobosan dalam waktu yang jauh lebih singkat.

Anda telah melaporkan mencapai lebih dari 4 kali kinerja-per-watt dibandingkan dengan GPU dan lebih dari 20 kali dibandingkan dengan CPU kelas atas. Apa yang menjadi inovasi kunci yang menghasilkan peningkatan kinerja seperti itu dalam beban kerja dunia nyata?

Peningkatan kinerja berasal dari beberapa inovasi kunci yang bekerja bersama.

Pertama, kami berpindah dari model Von Neumann yang telah mendominasi komputasi selama 80 tahun. Sebagai gantinya, Maverick-2 menggunakan arsitektur dataflow di mana komputasi mengikuti ketersediaan data. Ini secara fundamental lebih baik untuk beban kerja yang tidak teratur dan intensif memori.

Kedua, arsitektur kami yang mengoptimalkan diri sendiri menghasilkan inti prosesor yang didefinisikan perangkat lunak secara real-time. Perangkat keras menyesuaikan diri dengan kebutuhan setiap aplikasi tanpa memerlukan penulisan ulang kode – Anda mendapatkan optimasi tanpa overhead.

Ketiga, dan ini sangat kritis: kami fokus pada kinerja dunia nyata yang berkelanjutan, bukan puncak teoretis. Banyak arsitektur terlihat baik di atas kertas tetapi gagal dalam beban kerja sebenarnya. Maverick-2 mempertahankan efisiensi di seluruh AI, HPC, dan basis data vektor dengan terus menyesuaikan diri dengan kebutuhan beban kerja.

Maverick-2 mendukung C/C++, Fortran, OpenMP, dan Kokkos tanpa memerlukan perubahan kode. Bagaimana pengembang merespons kompatibilitas ini, dan apa rencana Anda untuk mendukung CUDA, ROCm, atau kerangka kerja AI populer?

Pengembang menyukai bahwa Maverick-2 adalah pengganti “drop-in” yang sebenarnya. Mereka dapat menjalankan aplikasi yang ada segera tanpa hambatan porting yang mengganggu industri ini. Kami saat ini mendukung C/C++, Fortran, OpenMP, dan Kokkos, dengan CUDA, ROCm, dan kerangka kerja AI utama seperti TensorFlow, JAX, PyTorch, dan ONNX dalam pengembangan aktif. Ini menghilangkan kunci vendor dan perubahan kode yang mahal, serta memungkinkan pelanggan untuk mengevaluasi dan mengadopsi arsitektur baru tanpa mengganggu alur kerja mereka.

Bagaimana sistem optimasi berbasis telemetri Maverick-2 bekerja di balik layar? Apa yang terlibat dalam pemrofilan dan mengkonfigurasi ulang chip secara real-time?

Bayangkan optimasi sistem kami sebagai loop terus-menerus: selama eksekusi, sistem telemetri kami mengukur ratusan indikator kinerja (misalnya, bandwidth memori, utilitas, kedalaman antrian). Semua data itu diberikan ke pengoptimasi runtime yang menentukan apakah konfigurasi perangkat keras saat ini masih optimal untuk beban kerja dan kebutuhan yang diproyeksikan. Jika tidak, itu dapat mempartisi ulang sumber daya, mengatur ulang jalur data, dan menyesuaikan pipa komputasi secara terus-menerus, berarti aplikasi tidak berhenti. Ini terjadi dalam milidetik, sehingga aplikasi mempertahankan efisiensi puncak yang konsisten saat profil komputasinya berubah.

Apakah ada jenis beban kerja atau kasus tepi tertentu di mana penyesuaian kinerja waktu nyata kurang efektif atau memperkenalkan trade-off dalam latensi atau daya?

Setiap arsitektur akan memiliki trade-off. Maverick-2 unggul dalam beban kerja yang kompleks dan tidak teratur dengan pola akses data dan komputasi yang berubah. Untuk beban kerja yang sangat dapat diprediksi dan fungsional tetap, GPU yang dioptimalkan dengan baik dapat sangat efisien tanpa overhead adaptasi. Dalam kasus tersebut, kemampuan adaptasi kami masih memberikan kinerja yang solid, tetapi keunggulan relatif mungkin lebih kecil.

Desain NextSilicon semua tentang fleksibilitas dan daya saing dalam kasus sederhana, tetapi transformatif dalam kasus yang menantang.

Mengapa Anda memutuskan untuk memprioritaskan pasar HPC lebih awal, ketika sebagian besar startup berlomba-lomba masuk ke AI? Bagaimana itu membentuk strategi produk dan bisnis Anda?

HPC mewakili frontier kompleksitas komputasi dan pemecahan masalah untuk dataset besar, akses memori yang tidak teratur, dan pola komputasi yang tidak terduga. Jika Anda dapat membangun arsitektur yang berkembang di sana – seperti menjalankan simulasi skala exabyte dalam pemodelan iklim atau fisika partikel, itu akan unggul dalam AI juga.

Dengan fokus pada HPC terlebih dahulu, kami membuktikan Maverick-2 pada beban kerja paling menuntut dalam pemodelan iklim, fisika, dan ilmu kehidupan. Itu memberi kami kredibilitas, data kinerja dunia nyata, dan produk yang matang sebelum memasuki pasar AI lebih dalam. Sekarang, kami diposisikan untuk melayani keduanya, tanpa mengompromikan arsitektur kami untuk memanfaatkan tren atau kebutuhan jangka pendek.

Sekarang Maverick-2 telah diproduksi dan diterapkan di seluruh puluhan pelanggan, apakah Anda bisa membagikan contoh tentang bagaimana itu digunakan? Apakah ada hasil atau benchmark tertentu dari penerapan bendera?

Contoh bendera adalah penerapan kami di Sandia National Labs, di mana Maverick-2 memberdayakan superkomputer Spectra mereka sebagai bagian dari program Vanguard-II. Kami melihat hasil kinerja luar kotak yang mengesankan tanpa memerlukan modifikasi kode. Kami juga bekerja dengan ODISSEE (Online Data Intensive Solutions for Science in the Exabytes Era), yang mengumpulkan lembaga penelitian terkemuka untuk menangani data skala exabyte dari CERN’s High-Luminosity Large Hadron Collider dan Square Kilometre Array Observatory. Peran Maverick-2 akan memainkan adalah memecahkan tantangan pemrosesan petabyte data eksperimental mentah dalam waktu yang jauh lebih singkat dan energi yang diperlukan sebelumnya. Tujuan akhir adalah memungkinkan analisis fisika yang lebih cepat dan penemuan astronomi.

Anda telah mengumpulkan lebih dari $300 juta, dengan putaran besar yang diumumkan pada 2021 dan lebih baru-baru ini. Apakah Anda bisa membagikan bagaimana pendanaan itu telah mempercepat pengembangan produk dan jangkauan pasar Anda?

Pendanaan itu memungkinkan kami melakukan tiga hal. Pertama, kami bisa mendorong arsitektur lebih jauh, tidak hanya perbaikan inkremental, tetapi kemajuan fundamental yang membuat Maverick-2 siap produksi. Kedua, kami menskala manufaktur dan rantai pasokan kami untuk memenuhi permintaan yang tumbuh, sebuah tantangan non-trivial untuk silikon baru. Ketiga, kami memperluas ekosistem perangkat lunak kami untuk memungkinkan pelanggan mengintegrasikan dan menerapkan lebih cepat.

Ini juga memungkinkan kemitraan strategis dengan pusat superkomputasi dan penyedia cloud, yang memungkinkan kami untuk menyederhanakan proses konsep-ke-penerapan dan memperluas dengan lebih cepat daripada startup perangkat keras tradisional.

Di lanskap yang meliputi Cerebras (CBRS ), SambaNova, dan Nvidia (NVDA ), bagaimana Anda melihat NextSilicon memposisikan diri? Apa pendekatan go-to-market Anda sebagai tantangan?

Kami melihat NextSilicon lebih sebagai perusahaan teknologi daripada hanya perusahaan chip. Kami mengoptimalkan setiap beban kerja, menyediakan adaptasi, dan tidak mengunci pelanggan ke pemrograman atau perangkat keras proprietary. Pelanggan kami dapat membawa kode yang ada dan mencapai percepatan segera tanpa siklus porting yang panjang atau kunci vendor ke ekosistem tunggal, seperti CUDA. Ini sangat penting terutama karena beban kerja AI berkembang melampaui pelatihan murni. Model penalaran, inferensi yang diperpanjang, dan jendela konteks besar memerlukan pola komputasi yang secara fundamental berbeda: akses memori yang lebih dinamis, komputasi variabel, dan alokasi sumber daya adaptif. Ini bukanlah masalah yang dapat diselesaikan dengan lebih banyak arsitektur tetap.

Strategi go-to-market kami fokus pada memecahkan masalah paling sulit terlebih dahulu: bekerja dengan lembaga penelitian, laboratorium nasional, dan perusahaan di mana kinerja, efisiensi energi, dan fleksibilitas sangat kritis. Dari sana, kami menskala ke pasar AI dan data-intensif yang lebih luas. Industri ini didominasi oleh arsitektur tetap. Kami menawarkan sesuatu yang berbeda, adaptasi yang dibangun dari awal. AI beralih dari skala murni ke kecerdasan. Model yang lebih besar memungkinkan penalaran yang lebih cerdas, dari prompt singkat hingga pemahaman konteks panjang. Dalam transisi ini, arsitektur yang dapat disesuaikan tidak hanya akan menjadi novel; mereka akan menjadi penting.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi NextSilicon.