Habana Labs AI-akseleratorer skal brukes i Voyager-superdatamaskin

San Diego Supercomputer Center (SDSC) ved UC San Diego har valgt Habana Labs’ kunstig intelligens (AI) trening og inferens-akseleratorer for å levere høy-ytelse, høy-effisiens AI-regning i deres Voyager superdatamaskin. Habana Labs er en ledende utvikler av spesialbygde dyptlærings-akseleratorer.

Voyager-superdatamaskin

Voyager-superdatamaskinen vil skalerer AI-treningskapasiteten med Habanas unike interconnect-teknologi, spesifikt 336 Gaudi-prosessorer. Disse prosessorene er særlig godt egnet for å skalerer store superdatamaskin-treningsapplikasjoner, og Gaudi er den eneste AI-prosessorer i bransjen som kan naturlig integrere ti 100-Gigabit Ethernet-porter av RoCE v2 på chipet. Dette muliggjør fleksibilitet i skalerings- og hjelper å unngå gjennomstrømningsbottlenecks, som kan begrense skaleringskapasiteten. Foruten dette, inneholder Voyager-systemet også 16 Habana Goya-prosessorer, som brukes til å drive AI-inferensmodeller. 

Amitava Majumdar er sjef for SDSCs Data Enables Scientific Computing-avdeling og hovedundersøker for Voyager-prosjektet. 

“Med innovative løsninger optimalisert for dyptlæringsoperasjoner og AI-arbeidsbelastninger, er Habana-akseleratorer ideelle valg for å drive Voyagers fremtidige AI-forskning,” sa Majumdar. “Vi ser frem til å samarbeide med Habana, Intel og Supermicro for å bringe denne unikt effektive klassen av beregningskapasiteter til Voyager-programmet, og gi akademiske forskere tilgang til en av de mest kapable AI-fokuserte systemer som er tilgjengelige i dag.”

Ytelse og effisiens i AI-operasjoner økes med Habana Gaudi AI-trening og Goya-inferensprosessorer. For dataforskere og forskere som har tilgang til Voyager, vil de kunne tilpasse modeller med programmerbare Tensor Processor Cores og kernel-biblioteker. De vil også kunne lette implementeringen ved å stole på Habanas SynapseAI-programvareplattform. Plattformen støtter populære maskinlæringsrammeverk og AI-modeller for applikasjoner som visjon, naturlig språkbehandling og anbefalingsystemer. 

AI-systemer levert av Supermicro

Habana-baserte AI-systemer vil bli levert for Voyager av Supermicro, en global leder i bedriftsdatamaskiner, lagring, nettverk og grønn datateknologi, samt en Voyager-teknologipartner. 

Systemene inkluderer:

• Supermicro X12 Gaudi AI-treningsystem – åtte Gaudi HL-205-kort parret med dobbelte 3. generasjons Intel Xeon Scalable-prosessorer.
  
• Supermicro SuperServer 4029GP-T med åtte Goya HL-100 PCLe-kort for AI-inferens, parret med dobbelte 2. generasjons Intel Xeon scalable-prosessorer. 

Ray Pang er visepresident for teknologi og forretningsmuligheter i Supermicro. 

“Kombinasjonen av Supermicros avanserte applikasjons-optimerte server- og lagringshardware med Habanas AI-trening og inferensprodukter er den beste løsningen for SDSCs flerårige Voyager AI-prosjekt,” sa Pang. “Vi fortsetter å arbeide tett med ledende innovatører for å levere løsninger for komputasjonstunge prosjekter verden over i ledende forsknings- og HPC-miljøer for vitenskap og medisinsk oppdagelse, beregning og ledende AI-løsninger.”

Eitan Medina er Chief Business Officer i Habana. 

“Vi er hedret over at Habanas AI-prosessorer er valgt til å drive AI-arbeidsbelastningene som skal kjøre på San Diego Supercomputer Centers Voyager-superdatamaskin,” sa Medina. “Dette implementeringen av våre Gaudi- og Goya-produkter viser hvordan topp-akademiske institusjoner som SDSC kan utnytte effisiens og ytelse for å effektivt håndtere de økende kravene til AI-forskningsarbeidsbelastninger.”

Systemet vil være i Testfasen for de første tre årene av drift, og SDSC vil samarbeide med forskningsteam fra astronomi, klimavitskap, kjemi, partikkelfysikk og andre felt. Under denne testfasen vil SDSC samarbeide med AI-forskningsmiljøet og dokumentere prosesser som kan brukes som en ressurs i fremtiden. 

Trish Damkroger er visepresident og generaldirektør for Intels High Performance Computing-gruppe.

“Nivået av ytelse og effisiens som Voyager vil kreve, er nettopp det Intel-arkitekturer er designet for,” sa Damkroger. “Våre Xeon Scalable-prosessorer parret med Habana AI-akseleratorer, vil sikre at Voyagers brukere har de HPC- og AI-kapasiteter de trenger for å drive sin banebrytende forskning.”