Akselerator AI Habana Labs Akan Digunakan di Superkomputer Voyager

Pusat Superkomputer San Diego (SDSC) di UC San Diego telah memilih akselerator pelatihan dan inferensi kecerdasan buatan (Habana Labs) untuk menyediakan komputasi kecerdasan buatan (AI) dengan kinerja tinggi dan efisiensi tinggi di superkomputer Voyager. Habana Labs adalah pengembang terkemuka akselerator pembelajaran dalam yang dirancang khusus.

Superkomputer Voyager

Superkomputer Voyager akan meningkatkan kapasitas pelatihan AI dengan teknologi antarmuka unik Habana, khususnya 336 prosesor Gaudi. Prosesor ini sangat baik untuk meningkatkan aplikasi pelatihan superkomputer besar, dan Gaudi adalah satu-satunya prosesor AI di industri yang dapat mengintegrasikan sepuluh port Ethernet 100-Gigabit RoCE v2 secara native. Ini memungkinkan fleksibilitas penskalaan dan membantu menghindari bottleneck throughput, yang dapat membatasi kapasitas penskalaan. Selain itu, sistem Voyager juga berisi 16 prosesor Goya Habana, yang digunakan untuk memuat model inferensi AI.

Amitava Majumdar adalah kepala divisi Komputasi Ilmiah yang Ditenagai Data di SDSC dan penyelidik utama proyek Voyager.

“Dengan solusi inovatif yang dioptimalkan untuk operasi pembelajaran dalam dan beban kerja AI, akselerator Habana adalah pilihan ideal untuk memuat penelitian AI Voyager yang akan datang,” kata Majumdar. “Kami berharap dapat bermitra dengan Habana, Intel dan Supermicro untuk membawa kemampuan komputasi kelas ini yang unik dan efisien ke program Voyager, memberikan akses kepada peneliti akademis ke salah satu sistem AI yang paling mampu yang tersedia saat ini.”

Kinerja dan efisiensi dalam operasi AI ditingkatkan dengan prosesor pelatihan AI Gaudi Habana dan prosesor inferensi Goya. Bagi ilmuwan data dan peneliti yang memiliki akses ke Voyager, mereka akan dapat menyesuaikan model dengan inti pemroses tensor yang dapat diprogram dan perpustakaan kernel. Mereka juga akan dapat memudahkan implementasi dengan mengandalkan platform perangkat lunak SynapseAI Habana. Platform ini mendukung kerangka kerja pembelajaran mesin populer dan model AI untuk aplikasi seperti visi, pemrosesan bahasa alami dan sistem rekomendasi.

Sistem AI yang Disediakan oleh Supermicro

Sistem AI berbasis Habana akan disediakan untuk Voyager oleh Supermicro, pemimpin global di bidang komputasi perusahaan, penyimpanan, jaringan dan teknologi komputasi hijau, serta mitra teknologi Voyager.

Sistem ini termasuk:

• Sistem Pelatihan AI Supermicro X12 Gaudi – delapan kartu Gaudi HL-205 yang dipasangkan dengan prosesor Intel Xeon Scalable 3rd Gen dual-socket.
  
• SuperServer 4029GP-T Supermicro yang menampilkan delapan kartu Goya HL-100 PCLe untuk inferensi AI, dipasangkan dengan prosesor Intel Xeon scalable 2nd Gen dual-socket.

Ray Pang adalah wakil presiden teknologi dan pemberdayaan bisnis di Supermicro.

“Menggabungkan perangkat keras server dan penyimpanan Supermicro yang dioptimalkan aplikasi dengan produk pelatihan dan inferensi AI Habana adalah solusi terbaik untuk proyek AI Voyager SDSC selama beberapa tahun,” kata Pang. “Kami terus bekerja sama dengan inovator terkemuka untuk menyediakan solusi untuk proyek intensif komputasi di seluruh dunia di lingkungan penelitian dan HPC terkemuka untuk penemuan sains dan medis, komputasi, dan solusi AI terdepan.”

Eitan Medina adalah Chief Business Officer di Habana.

“Kami merasa terhormat bahwa prosesor AI Habana telah dipilih untuk memuat beban kerja AI yang akan berjalan di superkomputer Voyager Pusat Superkomputer San Diego,” kata Medina. “Implementasi produk Gaudi dan Goya kami menunjukkan bagaimana lembaga akademis terkemuka seperti SDSC dapat memanfaatkan efisiensi dan kinerja untuk secara efektif menangani permintaan beban kerja penelitian AI yang meningkat.”

Sistem ini akan berada di Fase Testbed selama tiga tahun pertama operasional, dan SDSC akan bekerja sama dengan tim peneliti dari bidang astronomi, ilmu iklim, kimia, fisika partikel dan bidang lainnya. Selama fase pengujian ini, SDSC akan berkolaborasi dengan komunitas penelitian AI dan mendokumentasikan proses yang dapat digunakan sebagai sumber daya di masa depan.

Trish Damkroger adalah wakil presiden dan manajer umum grup Komputasi Kinerja Tinggi Intel.

“Tingkat kinerja dan efisiensi yang akan dibutuhkan Voyager adalah tepat apa yang arsitektur Intel dirancang untuk,” kata Damkroger. “Prosesor Xeon Scalable kami yang dipasangkan dengan akselerator AI Habana akan memastikan pengguna Voyager memiliki kemampuan HPC dan AI yang mereka butuhkan untuk memuat penelitian yang mengubah permainan.”