Habana Labs KI-Beschleuniger werden im Voyager-Supercomputer verwendet

Das San Diego Supercomputer Center (SDSC) an der UC San Diego hat die künstlichen Intelligenz- (KI-) Trainings- und Inferenzbeschleuniger von Habana Labs ausgewählt, um eine leistungsstarke, effiziente KI-Rechnung in seinem Voyager -Supercomputer bereitzustellen. Habana Labs ist ein führender Entwickler von speziell für das Deep Learning entwickelten Beschleunigern.

Voyager-Supercomputer

Der Voyager-Supercomputer wird die KI-Trainingskapazität mit der einzigartigen Interconnect-Technologie von Habana skalieren, insbesondere 336 Gaudi-Prozessoren. Diese Prozessoren sind besonders gut für die Skalierung großer Supercomputer-Trainingsanwendungen geeignet, und Gaudi ist der einzige KI-Prozessor in der Branche, der native zehn 100-Gigabit-Ethernet-Ports von RoCE v2 auf dem Chip integrieren kann. Dies ermöglicht Flexibilität bei der Skalierung und hilft, Durchsatzengpässe zu vermeiden, die die Skalierungskapazität einschränken können. Darüber hinaus enthält das Voyager-System auch 16 Habana-Goya-Prozessoren, die zum Betreiben von KI-Inferenzmodellen verwendet werden.

Amitava Majumdar ist Leiter der Abteilung Data Enables Scientific Computing des SDSC und Hauptuntersucher des Voyager-Projekts.

“Mit innovativen Lösungen, die für Deep-Learning-Operationen und KI-Workloads optimiert sind, sind die Beschleuniger von Habana die idealen Auswahlmöglichkeiten, um die bevorstehende KI-Forschung von Voyager zu betreiben”, sagte Majumdar. “Wir freuen uns darauf, mit Habana, Intel und Supermicro zusammenzuarbeiten, um diese einzigartig effiziente Klasse von Rechenfähigkeiten für das Voyager-Programm bereitzustellen und akademischen Forschern Zugang zu einem der leistungsfähigsten KI-Systeme zu geben, die heute verfügbar sind.”

Die Leistung und Effizienz bei KI-Operationen werden mit den Gaudi-KI-Trainings- und Goya-Inferenzprozessoren von Habana erhöht. Für Datenwissenschaftler und Forscher, die Zugang zu Voyager haben, können sie Modelle mit programmierbaren Tensor-Prozessorkernen und Kernel-Bibliotheken anpassen. Sie können auch die Implementierung durch die Nutzung der SynapseAI-Software-Plattform von Habana erleichtern. Die Plattform unterstützt beliebte Machine-Learning-Frameworks und KI-Modelle für Anwendungen wie Vision, natürliche Sprachverarbeitung und Empfehlungssysteme.

KI-Systeme von Supermicro

Habana-basierte KI-Systeme werden für Voyager von Supermicro bereitgestellt, einem globalen Marktführer im Bereich Unternehmenscomputing, Speicher, Netzwerk und grünes Computing, sowie einem Voyager-Technologiepartner.

Die Systeme umfassen:

• Supermicro X12 Gaudi KI-Trainings-System – acht Gaudi HL-205-Karten, die mit dual-socket 3. Gen Intel Xeon Scalable Prozessoren gekoppelt sind.
• Supermicro SuperServer 4029GP-T mit acht Goya HL-100 PCLe-Karten für KI-Inferenz, die mit dual-socket 2. Gen Intel Xeon skalierbaren Prozessoren gekoppelt sind.

Ray Pang ist Vice President of Technology und Business Enablement bei Supermicro.

“Die Kombination von Supermicros fortschrittlicher, anwendungsoptimierter Server- und Speicherhardware mit den KI-Trainings- und Inferenzprodukten von Habana ist die beste Lösung für das mehrjährige Voyager-KI-Projekt des SDSC”, sagte Pang. “Wir arbeiten weiterhin eng mit führenden Innovatoren zusammen, um Lösungen für rechenintensive Projekte weltweit in führenden Forschungs- und HPC-Umgebungen für Wissenschaft und medizinische Entdeckung, Rechnen und führende KI-Lösungen bereitzustellen.”

Eitan Medina ist Chief Business Officer bei Habana.

“Wir sind geehrt, dass die KI-Prozessoren von Habana ausgewählt wurden, um die KI-Workloads zu betreiben, die auf dem Voyager-Supercomputer des San Diego Supercomputer Center laufen werden”, sagte Medina. “Diese Implementierung unserer Gaudi- und Goya-Produkte zeigt, wie führende akademische Institutionen wie das SDSC Effizienz und Leistung nutzen können, um die wachsenden Anforderungen von KI-Forschungsworkloads effektiv zu bewältigen.”

Das System wird in der Testphase für die ersten drei Jahre des Betriebs sein, und das SDSC wird mit Forschungsteams aus der Astronomie, der Klimaforschung, der Chemie, der Teilchenphysik und anderen Bereichen zusammenarbeiten. Während dieser Testphase wird das SDSC mit der KI-Forschungsgemeinschaft zusammenarbeiten und Prozesse dokumentieren, die als Ressource in der Zukunft verwendet werden können.

Trish Damkroger ist Vice President und General Manager von Intel’s High Performance Computing-Gruppe.

“Das Maß an Leistung und Effizienz, das Voyager erfordert, ist genau das, wofür Intel-Architekturen entwickelt wurden”, sagte Damkroger. “Unsere Xeon-Scalable-Prozessoren, kombiniert mit den KI-Beschleunigern von Habana, werden sicherstellen, dass die Benutzer von Voyager die HPC- und KI-Fähigkeiten haben, die sie für ihre bahnbrechenden Forschungen benötigen.”