Habana Labs AI-versnellers voor gebruik in Voyager-supercomputer

Ocuco's Medewerkers San Diego Supercomputer Center (SDSC) bij UC San Diego heeft geselecteerd Habana Labs' kunstmatige intelligentie (AI) training en inferentieversnellers om krachtige, zeer efficiënte AI-computing te bieden in zijn Reiziger supercomputer. Habana Labs is een toonaangevende ontwikkelaar van speciaal gebouwde deep learning-versnellers.

Voyager-supercomputer

De Voyager-supercomputer zal de AI-trainingscapaciteit opschalen met Habana's unieke verbindingstechnologie, met name 336 Gaudi-processors. Deze processors zijn vooral goed voor het opschalen van grote supercomputer-trainingstoepassingen, en Gaudi is de enige AI-processor in de branche die tien 100-Gigabit Ethernet-poorten van RoCE v2 op de chip kan integreren. Dit maakt flexibele schaalbaarheid mogelijk en helpt doorvoerknelpunten te voorkomen, die de schaalcapaciteit kunnen beperken. Daarnaast bevat het Voyager-systeem ook 16 Habana Goya-processors, die worden gebruikt om AI-inferentiemodellen aan te sturen. 

Amitava Majumdar is hoofd van SDSC's Data Enables Scientific Computing-divisie en hoofdonderzoeker van het Voyager-project. 

"Met innovatieve oplossingen die zijn geoptimaliseerd voor deep learning-operaties en AI-workloads, zijn Habana-versnellers de ideale keuzes om Voyager's aanstaande AI-onderzoek te ondersteunen", aldus Majumdar. "We kijken ernaar uit om samen te werken met Habana, Intel en Supermicro om deze uniek efficiënte klasse van rekenmogelijkheden naar het Voyager-programma te brengen, waardoor academische onderzoekers toegang krijgen tot een van de meest capabele AI-gerichte systemen die momenteel beschikbaar zijn."

De prestaties en efficiëntie bij AI-operaties worden verbeterd met Habana Gaudi AI-training en Goya-inferentieprocessors. Datawetenschappers en onderzoekers die toegang hebben tot Voyager kunnen modellen aanpassen met programmeerbare Tensor Processor Cores en kernelbibliotheken. Ze zullen de implementatie ook kunnen vergemakkelijken door te vertrouwen op Habana's SynapseAI-softwareplatform. Het platform ondersteunt populaire machine learning-frameworks en AI-modellen voor toepassingen zoals vision, natural taalverwerking en aanbevelingssystemen. 

AI-systemen geleverd door Supermicro

Op Habana gebaseerde AI-systemen zullen door Voyager worden geleverd Supermicro, een wereldleider op het gebied van enterprise computing, opslag, netwerken en groene computertechnologie, evenals een Voyager-technologiepartner. 

De systemen omvatten:

• Supermicro X12 Gaudi AI-trainingssysteem - acht Gaudi HL-205-kaarten gecombineerd met dual-socket 3e generatie Intel Xeon schaalbare processors.
  
• Supermicro SuperServer 4029GP-T met acht Goya HL-100 PCLe-kaarten voor AI-inferentie, gecombineerd met dual-socket 2e generatie Intel Xeon schaalbare processors. 

Ray Pang is vice-president technologie en bedrijfsondersteuning bij Supermicro. 

"De combinatie van Supermicro's geavanceerde, applicatie-geoptimaliseerde server- en opslaghardware met Habana's AI-trainings- en inferentieproducten is de beste oplossing voor het meerjarige Voyager AI-project van SDSC", aldus Pang. "We blijven nauw samenwerken met toonaangevende innovators om oplossingen te leveren voor rekenintensieve projecten wereldwijd in toonaangevende onderzoeks- en HPC-omgevingen voor wetenschappelijke en medische ontdekkingen, computing en geavanceerde AI-oplossingen."

Eitan Medina is Chief Business Officer bij Habana. 

"We zijn vereerd dat Habana's AI-processors zijn geselecteerd om de AI-workloads aan te drijven die zullen draaien op de Voyager-supercomputer van het San Diego Supercomputer Center", aldus Medina. "Deze implementatie van onze Gaudi- en Goya-producten laat zien hoe academische topinstellingen zoals SDSC efficiëntie en prestaties kunnen benutten om effectief te voldoen aan de groeiende eisen van AI-onderzoekswerklasten."

Het systeem zal in de Testbed-fase gedurende de eerste drie werkingsjaren, en SDSC zal samenwerken met onderzoeksteams uit de astronomie, klimaatwetenschappen, chemie, deeltjesfysica en andere gebieden. Tijdens deze testfase zal SDSC samenwerken met de AI-onderzoeksgemeenschap en processen documenteren die in de toekomst als hulpmiddel kunnen worden gebruikt. 

Trish Damkroger is vice-president en algemeen directeur van de High Performance Computing-groep van Intel.

"Het prestatie- en efficiëntieniveau dat Voyager nodig heeft, is precies waarvoor Intel-architecturen zijn ontworpen", aldus Damkroger. "Onze Xeon Scalable-processors in combinatie met Habana AI-versnellers zullen ervoor zorgen dat Voyager-gebruikers de HPC- en AI-mogelijkheden hebben die ze nodig hebben om hun baanbrekende onderzoek mogelijk te maken."