Akceleratory AI Habana Labs do zastosowania w superkomputerze Voyager

Centrum superkomputerów w San Diego (SDSC) na Uniwersytecie Kalifornijskim w San Diego wybrało Laboratoria Habana akceleratory uczenia i wnioskowania sztucznej inteligencji (AI) w celu zapewnienia wysokiej wydajności i wydajności obliczeń AI w swoich Podróżnik superkomputer. Habana Labs jest wiodącym twórcą specjalnie zaprojektowanych akceleratorów głębokiego uczenia się.

Superkomputer Voyager

Superkomputer Voyager będzie skalował możliwości szkoleniowe AI dzięki unikalnej technologii połączeń wzajemnych firmy Habana, w szczególności 336 procesorom Gaudiego. Procesory te szczególnie dobrze nadają się do skalowania dużych aplikacji szkoleniowych na superkomputerach, a Gaudi jest jedynym procesorem AI w branży, który może natywnie zintegrować dziesięć portów 100-Gigabit Ethernet wbudowanego w układ RoCE v2. Umożliwia to elastyczność skalowania i pomaga uniknąć wąskich gardeł w przepustowości, które mogą ograniczać możliwości skalowania. Poza tym system Voyager zawiera również 16 procesorów Habana Goya, które służą do zasilania modeli wnioskowania AI. 

Amitava Majumdar jest szefem działu Data Enables Scientific Computing w SDSC i głównym badaczem projektu Voyager. 

„Dzięki innowacyjnym rozwiązaniom zoptymalizowanym pod kątem operacji głębokiego uczenia się i obciążeń AI, akceleratory Habana są idealnym wyborem do wspierania nadchodzących badań nad sztuczną inteligencją Voyagera” – powiedział Majumdar. „Nie możemy się doczekać współpracy z firmami Habana, Intel i Supermicro, aby wprowadzić tę wyjątkowo wydajną klasę możliwości obliczeniowych do programu Voyager, zapewniając badaczom akademickim dostęp do jednego z najpotężniejszych dostępnych obecnie systemów zorientowanych na sztuczną inteligencję”.

Wydajność i efektywność operacji AI zwiększa się dzięki szkoleniom Habana Gaudi AI i procesorom wnioskowania Goya. Analitycy danych i badacze, którzy mają dostęp do Voyagera, będą mogli dostosowywać modele za pomocą programowalnych rdzeni procesorów Tensor i bibliotek jądra. Będą także mogli ułatwić wdrożenie, opierając się na platformie oprogramowania SynapseAI firmy Habana. Platforma obsługuje popularne frameworki uczenia maszynowego i modele AI dla zastosowań takich jak wizja, naturalność systemy przetwarzania i rekomendacji językowych. 

Systemy AI dostarczane przez Supermicro

Systemy sztucznej inteligencji oparte na Habanie zostaną dostarczone dla Voyagera przez Supermicro, światowy lider w dziedzinie technologii obliczeniowych dla przedsiębiorstw, pamięci masowych, sieci i technologii ekologicznych, a także partner technologiczny Voyager. 

Systemy obejmują:

• System szkoleniowy Supermicro X12 Gaudi AI – osiem kart Gaudi HL-205 w połączeniu z dwugniazdowymi procesorami Intel Xeon Scalable 3. generacji.
  
• Supermicro SuperServer 4029GP-T wyposażony w osiem kart Goya HL-100 PCLe do wnioskowania AI, w połączeniu z dwugniazdowymi skalowalnymi procesorami Intel Xeon drugiej generacji. 

Ray Pang jest wiceprezesem ds. technologii i wspierania biznesu w Supermicro. 

„Połączenie zaawansowanego, zoptymalizowanego pod kątem aplikacji sprzętu serwerowego i pamięci masowej Supermicro z produktami Habana do trenowania i wnioskowania AI to najlepsze rozwiązanie dla wieloletniego projektu SDSC Voyager AI” – powiedział Pang. „Kontynuujemy ścisłą współpracę z wiodącymi innowatorami, aby dostarczać rozwiązania dla projektów wymagających dużej mocy obliczeniowej na całym świecie w wiodących środowiskach badawczych i HPC, w zakresie odkryć naukowych i medycznych, obliczeń oraz najnowocześniejszych rozwiązań AI”.

Eitan Medina jest dyrektorem ds. biznesu w Habanie. 

„Jesteśmy zaszczyceni, że procesory AI firmy Habana zostały wybrane do obsługi obciążeń AI, które będą uruchamiane na superkomputerze Voyager w San Diego Supercomputer Center” – powiedziała Medina. „To wdrożenie naszych produktów Gaudi i Goya pokazuje, jak czołowe instytucje akademickie, takie jak SDSC, mogą wykorzystać efektywność i wydajność, aby skutecznie sprostać rosnącym wymaganiom związanym z obciążeniami badawczymi w zakresie sztucznej inteligencji”.

System będzie w Faza testowa przez pierwsze trzy lata działalności, a SDSC będzie współpracować z zespołami badawczymi z zakresu astronomii, nauk o klimacie, chemii, fizyki cząstek elementarnych i innych dziedzin. Na tej fazie testowania SDSC będzie współpracować ze społecznością badaczy sztucznej inteligencji i dokumentować procesy, które można wykorzystać jako źródło informacji w przyszłości. 

Trish Damkroger jest wiceprezesem i dyrektorem generalnym działu High Performance Computing w firmie Intel.

„Poziom wydajności i efektywności, jakiego będzie wymagał Voyager, jest dokładnie tym, do czego zaprojektowano architektury Intela” – powiedział Damkroger. „Nasze procesory Xeon Scalable w połączeniu z akceleratorami Habana AI zapewnią użytkownikom Voyagera możliwości HPC i AI potrzebne do prowadzenia przełomowych badań”.