Przyspieszacze AI Habana Labs będą wykorzystywane w superkomputerze Voyager

Centrum Superkomputerowe w San Diego (SDSC) na Uniwersytecie Kalifornijskim w San Diego wybrało przyspieszacze szkolenia i inferencji sztucznej inteligencji (AI) firmy Habana Labs, aby zapewnić wysokowydajne i wydajne obliczenia AI w superkomputerze Voyager. Habana Labs jest wiodącym deweloperem przyspieszaczy głębokiego uczenia się.

Superkomputer Voyager

Superkomputer Voyager będzie skalował pojemność szkolenia AI za pomocą unikalnej technologii łączności Habana, a konkretnie 336 procesorów Gaudi. Procesory te są szczególnie dobre do skalowania dużych aplikacji szkoleniowych superkomputerów, a Gaudi jest jedynym procesorem AI w branży, który może rodzinnie integrować dziesięć portów Ethernet 100-Gigabit RoCE v2 na chipie. Umożliwia to elastyczność skalowania i pomaga uniknąć wąskich gardeł przepływności, które mogą ograniczać pojemność skalowania. Oprócz tego system Voyager zawiera również 16 procesorów Goya Habana, które są używane do zasilania modeli inferencji AI.

Amitava Majumdar jest szefem działu Data Enables Scientific Computing w SDSC i głównym badaczem projektu Voyager.

„Z innowacyjnymi rozwiązaniami zoptymalizowanymi dla operacji głębokiego uczenia się i obciążeń AI, przyspieszacze Habana są idealnymi wyborami do zasilania nadchodzących badań AI w Voyager”, powiedział Majumdar. „Cieszymy się, że możemy współpracować z Habana, Intel i Supermicro, aby wprowadzić tę unikalną klasę możliwości obliczeniowych do programu Voyager, dając badaczom akademickim dostęp do jednego z najbardziej zdolnych systemów AI dostępnych dzisiaj”.

Wydajność i efektywność w operacjach AI są zwiększane dzięki procesorom szkolenia AI Gaudi i inferencji Goya. Dla naukowców danych i badaczy, którzy mają dostęp do Voyager, będą mogli dostosować modele za pomocą programowalnych rdzeni procesora tensorowego i bibliotek jądra. Będą również mogli ułatwić wdrożenie, polegając na platformie oprogramowania SynapseAI Habana. Platforma obsługuje popularne ramy pracy machine learning i modele AI dla aplikacji takich jak wizja, przetwarzanie języka naturalnego i systemy rekomendacji.

Systemy AI dostarczone przez Supermicro

Systemy AI oparte na Habana będą dostarczane dla Voyager przez Supermicro, globalnego lidera w dziedzinie komputingu przedsiębiorstw, pamięci, sieci i zielonej technologii komputera, a także partnera technologicznego Voyager.

Systemy obejmują:

• Supermicro X12 Gaudi AI Training System – osiem kart Gaudi HL-205 połączonych z procesorami dual-socket 3rd Gen Intel Xeon Scalable.
• Supermicro SuperServer 4029GP-T z ośmioma kartami Goya HL-100 PCLe do inferencji AI, połączonymi z procesorami dual-socket 2nd Gen Intel Xeon scalable.

Ray Pang jest wiceprezesem ds. technologii i umożliwienia biznesu w Supermicro.

„Połączenie zaawansowanego sprzętu serwerowego i pamięci Supermicro z produktami szkolenia i inferencji AI Habana jest najlepszym rozwiązaniem dla wieloletniego projektu AI Voyager SDSC”, powiedział Pang. „Nadal ściśle współpracujemy z wiodącymi innowatorami, aby dostarczać rozwiązania dla projektów o wysokiej intensywności obliczeniowej na całym świecie w wiodących środowiskach badawczych i HPC dla odkryć naukowych i medycznych, obliczeń i wiodących rozwiązań AI”.

Eitan Medina jest Chief Business Officer w Habana.

„Jesteśmy honorowani, że procesory AI Habana zostały wybrane do zasilania obciążeń AI, które będą uruchamiane na superkomputerze San Diego Supercomputer Center Voyager”, powiedział Medina. „To wdrożenie naszych produktów Gaudi i Goya pokazuje, jak wiodące instytucje akademickie takie jak SDSC mogą wykorzystywać efektywność i wydajność, aby skutecznie rozwiązać rosnące wymagania obciążeń badań AI”.

System będzie w fazie testowej przez pierwsze trzy lata działania, a SDSC będzie współpracować z zespołami badawczymi z dziedzin astronomii, nauk o klimacie, chemii, fizyki cząstek i innych. W trakcie tej fazy testowej SDSC będzie współpracować z społecznością badawczą AI i dokumentować procesy, które mogą być wykorzystane jako zasób w przyszłości.

Trish Damkroger jest wiceprezesem i dyrektorem generalnym grupy High Performance Computing w Intel.

„Poziom wydajności i efektywności, jaki Voyager będzie wymagał, jest dokładnie tym, na co są zaprojektowane architektury Intel”, powiedziała Damkroger. „Nasze procesory Xeon Scalable połączone z przyspieszaczami AI Habana zapewnią, że użytkownicy Voyager będą mieli możliwości HPC i AI, których potrzebują do napędzania swoich przełomowych badań”.