Aceleradores de inteligencia artificial de Habana Labs se utilizarán en la supercomputadora Voyager

El Centro de Supercomputación de San Diego (SDSC) en la UC San Diego ha seleccionado los aceleradores de entrenamiento e inferencia de inteligencia artificial (IA) de Habana Labs para proporcionar computación de IA de alto rendimiento y alta eficiencia en su supercomputadora Voyager. Habana Labs es un desarrollador líder de aceleradores de aprendizaje profundo de propósito específico.

Supercomputadora Voyager

La supercomputadora Voyager escalará la capacidad de entrenamiento de IA con la tecnología de interconexión única de Habana, específicamente 336 procesadores Gaudi. Estos procesadores son especialmente buenos para escalar aplicaciones de entrenamiento de supercomputadoras grandes, y Gaudi es el único procesador de IA en la industria que puede integrar de forma nativa diez puertos de Ethernet de 100 Gigabit de RoCE v2 en el chip. Esto permite la flexibilidad de escalado y ayuda a evitar cuellos de botella de rendimiento, que pueden limitar la capacidad de escalado. Además, el sistema Voyager también contiene 16 procesadores Goya de Habana, que se utilizan para alimentar modelos de inferencia de IA.

Amitava Majumdar es el jefe de la división de Computación Científica Habilitada por Datos de SDSC y el investigador principal del proyecto Voyager.

“Con soluciones innovadoras optimizadas para operaciones de aprendizaje profundo y cargas de trabajo de IA, los aceleradores de Habana son opciones ideales para alimentar la investigación de IA futura de Voyager”, dijo Majumdar. “Estamos ansiosos por asociarnos con Habana, Intel y Supermicro para traer esta clase de capacidades de computación únicamente eficientes al programa Voyager, brindando a los investigadores académicos acceso a uno de los sistemas más capaces enfocados en IA disponibles hoy en día”.

El rendimiento y la eficiencia en las operaciones de IA se aumentan con los procesadores de entrenamiento de IA Gaudi y los procesadores de inferencia Goya de Habana. Para los científicos de datos y los investigadores que tienen acceso a Voyager, podrán personalizar modelos con núcleos de procesador de tensor programables y bibliotecas de kernel. También podrán facilitar la implementación confiando en la plataforma de software SynapseAI de Habana. La plataforma admite marcos de aprendizaje automático y modelos de IA populares para aplicaciones como visión, procesamiento de lenguaje natural y sistemas de recomendación.

Sistemas de IA proporcionados por Supermicro

Los sistemas de IA basados en Habana se proporcionarán para Voyager por Supermicro, un líder global en computación empresarial, almacenamiento, redes y tecnología de computación verde, así como un socio tecnológico de Voyager.

Los sistemas incluyen:

• Sistema de entrenamiento de IA X12 Gaudi de Supermicro – ocho tarjetas Gaudi HL-205 emparejadas con procesadores Intel Xeon Scalable de doble zócalo de tercera generación.
  
• SuperServer 4029GP-T de Supermicro con ocho tarjetas Goya HL-100 PCLe para inferencia de IA, emparejadas con procesadores Intel Xeon escalables de doble zócalo de segunda generación.

Ray Pang es vicepresidente de tecnología y habilitación empresarial en Supermicro.

“Combinar el hardware de servidor y almacenamiento optimizado para aplicaciones de Supermicro con los productos de entrenamiento y inferencia de IA de Habana es la mejor solución para el proyecto de IA de varios años de SDSC”, dijo Pang. “Seguimos trabajando en estrecha colaboración con los principales innovadores para entregar soluciones para proyectos computacionalmente intensivos en todo el mundo en entornos de investigación y HPC líderes para la ciencia y el descubrimiento médico, el cálculo y las soluciones de IA de vanguardia”.

Eitan Medina es el director de negocios de Habana.

“Estamos honrados de que los procesadores de IA de Habana hayan sido seleccionados para alimentar las cargas de trabajo de IA que se ejecutarán en la supercomputadora Voyager del Centro de Supercomputación de San Diego”, dijo Medina. “Esta implementación de nuestros productos Gaudi y Goya muestra cómo las principales instituciones académicas como SDSC pueden aprovechar la eficiencia y el rendimiento para abordar eficazmente las crecientes demandas de las cargas de trabajo de investigación de IA”.

El sistema estará en la fase de prueba durante los primeros tres años de operación, y SDSC trabajará con equipos de investigación de astronomía, ciencias climáticas, química, física de partículas y otros campos. Durante esta fase de prueba, SDSC colaborará con la comunidad de investigación de IA y documentará procesos que podrían utilizarse como recurso en el futuro.

Trish Damkroger es vicepresidenta y gerente general del grupo de Computación de Alto Rendimiento de Intel.

“El nivel de rendimiento y eficiencia que Voyager requerirá es precisamente para lo que están diseñadas las arquitecturas de Intel”, dijo Damkroger. “Nuestros procesadores Xeon Scalable emparejados con los aceleradores de IA de Habana garantizarán que los usuarios de Voyager tengan las capacidades de HPC y IA que necesitan para impulsar su investigación innovadora”.