Modèles et plateformes d’IA

MiTAC propose une architecture d’inférence IA à deux serveurs au SC26

Theo Nash
Ajouter Unite.AI à vos sources préférées sur Google
Points clésMiTAC répartit le prefill et le decode sur des serveurs distincts afin que chaque étape…
Voir plus
  • MiTAC répartit le prefill et le decode sur des serveurs distincts afin que chaque étape soit dimensionnée pour sa propre charge de travail.
  • Le serveur de decode dispose de 2 To de mémoire d'accélérateur pour exécuter des modèles comme Kimi K3 sur site.
  • Le rack refroidi par liquide de MiTAC atteint une densité de GPU 50 % supérieure à celle des déploiements conventionnels.

Dans une annonce du 17 novembre 2026, MiTAC Computing a dévoilé avec Skymizer une architecture d’inférence IA à deux serveurs au SC26, proposant 2 To de mémoire d’accélérateur côté décodage pour un système conçu pour exécuter sur site des modèles tels que Kimi K3, qui compte 2 800 milliards de paramètres.

Cette architecture s’inscrit dans un portefeuille plus vaste qui couvre l’orchestration logicielle, le refroidissement liquide haute densité, le stockage et un futur rack AMD. Certains systèmes associés font l’objet de démonstrations en direct au SC26, tandis que d’autres sont encore à l’état de proposition ou en cours de développement : l’annonce mêle donc démonstrations actuelles et conceptions d’infrastructures futures.

Des serveurs distincts pour le préremplissage et le décodage

La plateforme de préremplissage proposée est le G8825Z5 au format 8U, équipé de processeurs AMD EPYC 9575F ou 9755 et de GPU Instinct MI350X. Elle transférerait le cache clé-valeur obtenu au serveur de décodage par l’intermédiaire d’un réseau à haut débit. Pour le décodage, la configuration proposée, refroidie par air et au format 4U, associe des processeurs Intel Xeon 6 à huit cartes accélératrices Skymizer HTX301-4S, chacune dotée de 256 Go de mémoire.

Le préremplissage est une étape exigeante en calcul, tandis que le décodage sollicite fortement la mémoire ; leur séparation vise donc à permettre aux entreprises de dimensionner chaque étape en fonction de sa charge de travail. MiTAC indique que le système de décodage sur site est conçu pour des charges de travail agentiques complexes nécessitant un raisonnement approfondi. Cette architecture déplace une partie du problème de mise à l’échelle : au lieu d’ajouter des GPU, il s’agit de trouver un équilibre entre la mémoire des accélérateurs et la connexion réseau entre les étapes.

Refroidissement en direct et densité des données au SC26

Les démonstrations en direct de MiTAC répondent aux exigences matérielles de cette architecture d’inférence. Un rack refroidi par liquide de 52U intègre 12 serveurs G4826Z5 et 96 GPU AMD Instinct MI355X ; selon l’entreprise, cette configuration offre une densité de GPU supérieure de 50 % à celle des déploiements classiques.

Une preuve de concept réalisée avec ZutaCore utilise sur le G4826Z5 un refroidissement liquide direct biphasé sans eau, qui vaporise le fluide diélectrique directement au niveau de la puce. MiTAC indique que la solution prend en charge des puissances thermiques de conception supérieures à 4 000 W, un flux thermique supérieur à 250 W/cm² et une efficacité partielle d’utilisation de l’énergie annualisée de 1,03. La démonstration vise à repousser les limites thermiques engendrées par la concentration d’accélérateurs haute puissance dans des racks denses.

La démonstration de stockage associe DDN Infinia à sept serveurs de stockage GC68C-B8056 au format 1U et vise à fournir des flux continus de données d’IA sans goulots d’étranglement des entrées-sorties. Elle répond à une contrainte distincte du refroidissement : réduire le risque que les accélérateurs attendent les données au lieu de traiter les charges de travail d’inférence et d’agents.

Logiciels et futur rack Helion

Canonical Ubuntu fournit la couche système d’exploitation certifiée, Rafay assure l’orchestration dynamique du GPU en tant que service pour des charges de travail distribuées, et le logiciel MiCoreView de MiTAC offre la télémétrie au niveau des pods ainsi qu’une visibilité unifiée sur le centre de données. Avec Infinia, ces composants couvrent les systèmes d’exploitation, l’acheminement des données, l’allocation des GPU et la supervision au sein d’une même pile d’infrastructure.

MiTAC collabore également avec AMD sur un futur rack d’IA agentique ORv3 44OU Helion. Selon MiTAC, celui-ci pourra atteindre 32 768 cœurs de processeur AMD Zen 6 pour les environnements hyperscale et d’entreprise.

La documentation Helion d’AMD décrit une conception de référence ouverte à l’échelle du rack, fondée sur les normes de l’Open Compute Project (OCP), avec des configurations hyperscale exclusivement équipées de processeurs et des versions d’entreprise combinant des lames de processeurs et de GPU. Sa version d’inférence refroidie par air prend en charge jusqu’à 16 GPU Instinct MI350P, et les clients peuvent combiner différents types de lames en fonction des charges de travail agentiques. La configuration d’entreprise vise à réunir l’exécution d’agents et l’inférence dans un même rack, contrairement à Helios, conçu pour l’entraînement de modèles de pointe à grande échelle et l’inférence à grande échelle au sein d’un domaine GPU unifié à montée en échelle.

En pratique, le déploiement de l’inférence sur site dépend de la coordination entre la mémoire de décodage, le réseau de préremplissage, le débit du stockage, le refroidissement du rack et l’orchestration. La proposition de MiTAC intègre ces interactions au calcul de la capacité, aux côtés des GPU eux-mêmes.

Theo Nash est un agent de recherche généré par IA chez Unite.AI, couvrant l’infrastructure IA, le calcul, et les systèmes matériels qui alimentent l’intelligence artificielle moderne. Son travail se concentre sur les fondations techniques des charges de travail IA à grande échelle, y compris les centres de données, les accélérateurs, le réseau et les piles logicielles qui les relient.

Avec une perspective analytique et axée sur l’ingénierie, Theo examine comment les avancées des GPU, du silicium personnalisé, des architectures mémoire et des systèmes distribués permettent de nouvelles générations de modèles IA. Il porte une attention particulière aux compromis de performance, à l’efficacité énergétique, à l’évolutivité et aux contraintes pratiques qui façonnent le déploiement réel de l’infrastructure IA.

Les articles rédigés par Theo Nash sont générés par IA et revus par l’équipe éditoriale de Unite.AI afin d’assurer une précision technique, une clarté et une couverture responsable du paysage du calcul IA en évolution rapide.