Habana Labs AI-acceleratorer skal bruges i Voyager-supercomputeren

San Diego Supercomputer Center (SDSC) på UC San Diego har valgt Habana Labs’ kunstig intelligens (AI)-trænings- og inferensacceleratorer til at levere højtydende, højeffektive AI-computere i deres Voyager supercomputer. Habana Labs er en førende udvikler af specialbyggede dybe læringsacceleratorer.

Voyager Supercomputer

Voyager-supercomputeren vil skala AI-træningskapaciteten med Habanas unikke interconnect-teknologi, specifikt 336 Gaudi-processorer. Disse processorer er særligt velegnede til at skala store supercomputer-træningsapplikationer, og Gaudi er den eneste AI-processor i branchen, der kan naturligt integrere ti 100-Gigabit Ethernet-porte af RoCE v2 på chippen. Dette giver fleksibilitet i skala og hjælper med at undgå gennemløbsbottleneck, der kan begrænse skala-kapaciteten. Ud over dette indeholder Voyager-systemet også 16 Habana Goya-processorer, der bruges til at aktivere AI-inferensmodeller. 

Amitava Majumdar er chef for SDSC’s Data Enables Scientific Computing-afdeling og principal investigator for Voyager-projektet. 

“Med innovative løsninger, der er optimeret til dyb læringsoperationer og AI-arbejdsmængder, er Habana-acceleratorer ideelle valg til at drive Voyagers kommende AI-forskning,” sagde Majumdar. “Vi ser frem til at samarbejde med Habana, Intel og Supermicro om at bringe denne unikt effektive klasse af beregningsfunktioner til Voyager-programmet, så akademiske forskere får adgang til et af de mest kapable AI-fokuserede systemer, der er tilgængelige i dag.”

Ydelse og effektivitet i AI-operationer øges med Habana Gaudi AI-træning og Goya inferensprocessorer. For datavidenskabsmænd og forskere, der har adgang til Voyager, vil de kunne tilpasse modeller med programmerbare Tensor Processor Cores og kernel-biblioteker. De vil også kunne lette implementeringen ved at stole på Habanas SynapseAI-softwareplatform. Platformen understøtter populære machine learning-rammer og AI-modeller til applikationer som vision, naturlig sprogbehandling og anbefalingsystemer. 

AI-systemer leveret af Supermicro

Habana-baserede AI-systemer vil blive leveret til Voyager af Supermicro, en global leder inden for enterprise-computing, lagring, netværk og grøn computing-teknologi, samt en Voyager-teknologipartner. 

Systemerne inkluderer:

• Supermicro X12 Gaudi AI-træningssystem – otte Gaudi HL-205-kort parret med dobbelt-socket 3. generation Intel Xeon Scalable-processorer.
  
• Supermicro SuperServer 4029GP-T med otte Goya HL-100 PCLe-kort til AI-inferens, parret med dobbelt-socket 2. generation Intel Xeon scalable-processorer. 

Ray Pang er vicepræsident for teknologi og forretningsaktivering hos Supermicro. 

“At kombinere Supermicros avancerede applikationsoptimerede server- og lagringshardware med Habanas AI-trænings- og inferensprodukter er den bedste løsning for SDSC’s flerårige Voyager AI-projekt,” sagde Pang. “Vi fortsætter med at arbejde tæt sammen med førende innovatorer for at levere løsninger til beregningsintensive projekter verden over i førende forsknings- og HPC-miljøer til videnskab og medicinsk opdagelse, beregning og førende AI-løsninger.”

Eitan Medina er Chief Business Officer hos Habana. 

“Vi er ærefulde over, at Habanas AI-processorer er blevet valgt til at drive AI-arbejdsmængderne, der skal køre på San Diego Supercomputer Centers Voyager-supercomputer,” sagde Medina. “Denne implementering af vores Gaudi- og Goya-produkter viser, hvordan top-akademiske institutioner som SDSC kan udnytte effektivitet og ydelse til at effektivt håndtere de voksende krav til AI-forskningsarbejdsmængder.”

Systemet vil være i Testfasen i de første tre år af drift, og SDSC vil samarbejde med forskningsteams fra astronomi, klimavidenskab, kemi, partikelfysik og andre fag. Under denne testfase vil SDSC samarbejde med AI-forskningsfællesskabet og dokumentere processer, der kan bruges som en ressource i fremtiden. 

Trish Damkroger er vicepræsident og chef for Intels High Performance Computing-gruppe.

“Det niveau af ydelse og effektivitet, som Voyager vil kræve, er præcis, hvad Intel-arkitekturer er designet til,” sagde Damkroger. “Vore Xeon Scalable-processorer kombineret med Habana AI-acceleratorer vil sikre, at Voyagers brugere har de HPC- og AI-kapaciteter, de behøver for at drive deres revolutionerende forskning.”