Aceleradores de IA da Habana Labs Serão Usados no Supercomputador Voyager

O San Diego Supercomputer Center (SDSC) da UC San Diego selecionou os aceleradores de treinamento e inferência de inteligência artificial (IA) da Habana Labs para fornecer computação de IA de alto desempenho e alta eficiência em seu supercomputador Voyager. A Habana Labs é uma desenvolvedora líder de aceleradores de aprendizado profundo de propósito específico.

Supercomputador Voyager

O supercomputador Voyager escalonará a capacidade de treinamento de IA com a tecnologia de interconexão única da Habana, especificamente 336 processadores Gaudi. Esses processadores são especialmente bons para escalonar aplicações de treinamento de supercomputador de grande porte, e o Gaudi é o único processador de IA da indústria que pode integrar nativamente dez portas de Ethernet de 100 Gigabits de RoCE v2 no chip. Isso permite flexibilidade de escalonamento e ajuda a evitar gargalos de throughput, que podem limitar a capacidade de escalonamento. Além disso, o sistema Voyager também contém 16 processadores Goya da Habana, que são usados para alimentar modelos de inferência de IA.

Amitava Majumdar é chefe da divisão de Computação Científica Habilitada por Dados do SDSC e investigador principal do projeto Voyager.

“Com soluções inovadoras otimizadas para operações de aprendizado profundo e cargas de trabalho de IA, os aceleradores da Habana são escolhas ideais para alimentar a pesquisa de IA futura do Voyager”, disse Majumdar. “Estamos ansiosos para colaborar com a Habana, a Intel e a Supermicro para trazer essa classe única de capacidades de computação eficientes para o programa Voyager, dando aos pesquisadores acadêmicos acesso a um dos sistemas mais capazes de IA disponíveis hoje.”

O desempenho e a eficiência nas operações de IA são aumentados com os processadores de treinamento de IA Gaudi e inferência Goya da Habana. Para os cientistas de dados e pesquisadores que têm acesso ao Voyager, eles poderão personalizar modelos com núcleos de processamento de tensor programáveis e bibliotecas de kernel. Eles também poderão facilitar a implementação confiando na plataforma de software SynapseAI da Habana. A plataforma suporta frameworks de aprendizado de máquina e modelos de IA populares para aplicações como visão, processamento de linguagem natural e sistemas de recomendação.

Sistemas de IA Fornecidos pela Supermicro

Os sistemas de IA baseados na Habana serão fornecidos para o Voyager pela Supermicro, uma líder global em computação empresarial, armazenamento, rede e tecnologia de computação verde, bem como uma parceira tecnológica do Voyager.

Os sistemas incluem:

• Sistema de Treinamento de IA X12 Gaudi da Supermicro – oito cartões Gaudi HL-205 emparelhados com processadores Intel Xeon Scalable de terceira geração de dupla soquete.
• SuperServidor 4029GP-T da Supermicro, com oito cartões Goya HL-100 PCLe para inferência de IA, emparelhados com processadores Intel Xeon escaláveis de segunda geração de dupla soquete.

Ray Pang é vice-presidente de tecnologia e habilitação de negócios da Supermicro.

“Combinar o hardware de servidor e armazenamento otimizado para aplicativos da Supermicro com os produtos de treinamento e inferência de IA da Habana é a melhor solução para o projeto de IA de vários anos do SDSC”, disse Pang. “Continuamos a trabalhar em estreita colaboração com inovadores líderes para entregar soluções para projetos computacionalmente intensivos em todo o mundo em ambientes de pesquisa e HPC de ponta para ciência e descoberta médica, computação e soluções de IA de ponta.”

Eitan Medina é Diretor de Negócios da Habana.

“Estamos honrados que os processadores de IA da Habana tenham sido selecionados para alimentar as cargas de trabalho de IA que serão executadas no supercomputador Voyager do San Diego Supercomputer Center”, disse Medina. “Essa implementação de nossos produtos Gaudi e Goya mostra como instituições acadêmicas de ponta como o SDSC podem aproveitar a eficiência e o desempenho para atender efetivamente às demandas crescentes das cargas de trabalho de pesquisa de IA.”

O sistema estará na Fase de Teste para os primeiros três anos de operação, e o SDSC trabalhará com equipes de pesquisa de astronomia, ciências climáticas, química, física de partículas e outros campos. Durante essa fase de teste, o SDSC colaborará com a comunidade de pesquisa de IA e documentará processos que poderiam ser usados como um recurso no futuro.

Trish Damkroger é vice-presidente e gerente geral do grupo de Computação de Alto Desempenho da Intel.

“O nível de desempenho e eficiência que o Voyager exigirá é exatamente o que as arquiteturas da Intel são projetadas para”, disse Damkroger. “Nossos processadores Xeon Scalable acoplados com aceleradores de IA da Habana garantirão que os usuários do Voyager tenham as capacidades de HPC e IA necessárias para alimentar suas pesquisas inovadoras.”