Habana Labs AI Accelerators Zullen Worden Gebruikt in Voyager Supercomputer

Het San Diego Supercomputer Center (SDSC) van de UC San Diego heeft de Habana Labs’ kunstmatige intelligentie (AI) trainings- en inferentieversnellers geselecteerd om hoogwaardige, hoogrenderende AI-computing te bieden in hun Voyager supercomputer. Habana Labs is een toonaangevende ontwikkelaar van deep learning-versnellers met een specifiek doel.

Voyager Supercomputer

De Voyager-supercomputer zal de AI-trainingscapaciteit schalen met Habana’s unieke interconnect-technologie, specifiek 336 Gaudi-processors. Deze processors zijn vooral geschikt voor het schalen van grote supercomputertrainingsapplicaties, en Gaudi is de enige AI-processor in de industrie die native tien 100-Gigabit Ethernet-poorten van RoCE v2 op-chip kan integreren. Dit biedt flexibiliteit bij het schalen en helpt bij het voorkomen van doorvoerbottlenecks, die de schaalbaarheid kunnen beperken. Bovendien bevat het Voyager-systeem ook 16 Habana Goya-processors, die worden gebruikt om AI-inferentiemodellen te laten werken.

Amitava Majumdar is hoofd van de afdeling Data Enables Scientific Computing van SDSC en hoofdonderzoeker voor het Voyager-project.

“Met innovatieve oplossingen die zijn geoptimaliseerd voor deep learning-bewerkingen en AI-werklasten, zijn Habana-versnellers ideale keuzes om Voyager’s aanstaande AI-onderzoek te laten werken,” zei Majumdar. “We kijken ernaar uit om samen te werken met Habana, Intel en Supermicro om deze unieke efficiënte klasse van compute-mogelijkheden naar het Voyager-programma te brengen, waardoor academische onderzoekers toegang krijgen tot een van de meest capabele AI-georiënteerde systemen die vandaag beschikbaar zijn.”

De prestaties en efficiëntie bij AI-bewerkingen worden verhoogd met Habana Gaudi AI-trainings- en Goya-inferentieprocessors. Voor datawetenschappers en onderzoekers die toegang hebben tot Voyager, zullen ze in staat zijn om modellen aan te passen met programmeerbare Tensor Processor Cores en kernelbibliotheken. Ze zullen ook in staat zijn om de implementatie te vereenvoudigen door te vertrouwen op Habana’s SynapseAI-softwareplatform. Het platform ondersteunt populaire machine learning-kaders en AI-modellen voor toepassingen zoals visie, natuurlijke taalverwerking en aanbevelingssystemen.

AI-Systemen Geleverd door Supermicro

Habana-gebaseerde AI-systemen zullen worden geleverd voor Voyager door Supermicro, een wereldleider in enterprise computing, opslag, netwerken en groene computertechnologie, evenals een Voyager-technologiepartner.

De systemen omvatten:

• Supermicro X12 Gaudi AI Training System – acht Gaudi HL-205-kaarten gepaard met dual-socket 3rd Gen Intel Xeon Scalable-processors.
  
• Supermicro SuperServer 4029GP-T met acht Goya HL-100 PCLe-kaarten voor AI-inferentie, gepaard met dual-socket 2nd Gen Intel Xeon scalable-processors.

Ray Pang is vice-president van technologie en business-enablement bij Supermicro.

“Het combineren van Supermicro’s geavanceerde toepassingsgeoptimaliseerde server- en opslaghardware met Habana’s AI-trainings- en inferentieproducten is de beste oplossing voor SDSC’s meerdere jaren durende Voyager AI-project,” zei Pang. “We blijven nauw samenwerken met toonaangevende innovators om oplossingen te leveren voor computationeel intensieve projecten wereldwijd in toonaangevende onderzoeks- en HPC-omgevingen voor wetenschap en medische ontdekking, compute en toonaangevende AI-oplossingen.”

Eitan Medina is Chief Business Officer bij Habana.

“We zijn vereerd dat Habana’s AI-processors zijn geselecteerd om de AI-werklasten te laten werken die zullen worden uitgevoerd op San Diego Supercomputer Center’s Voyager-supercomputer,” zei Medina. “Deze implementatie van onze Gaudi- en Goya-producten laat zien hoe topacademische instellingen zoals SDSC efficiëntie en prestaties kunnen benutten om effectief de groeiende vraag naar AI-onderzoeksworkloads aan te pakken.”

Het systeem zal zich in de Testfase bevinden voor de eerste drie jaar van operationele activiteiten, en SDSC zal samenwerken met onderzoeksteams uit astronomie, klimaatwetenschappen, scheikunde, deeltjesfysica en andere vakgebieden. Tijdens deze testfase zal SDSC samenwerken met de AI-onderzoekscommunity en documentatieprocessen vastleggen die in de toekomst als bron kunnen worden gebruikt.

Trish Damkroger is vice-president en algemeen directeur van Intel’s High Performance Computing-groep.

“Het niveau van prestaties en efficiëntie dat Voyager zal vereisen, is precies waarvoor Intel-architecturen zijn ontworpen,” zei Damkroger. “Onze Xeon Scalable-processors in combinatie met Habana AI-versnellers zullen ervoor zorgen dat de gebruikers van Voyager de HPC- en AI-mogelijkheden hebben die ze nodig hebben om hun baanbrekende onderzoek te laten werken.”