Partenariats
Supermicro va fabriquer et vendre des systèmes d’inférence IA propulsés par SambaNova
Ajouter Unite.AI à vos sources préférées sur Google
SambaNova et Supermicro ont annoncé le 3 novembre 2026 que Supermicro fabriquerait, vendrait et prendrait en charge des systèmes d’inférence IA répartissant les opérations entre les GPU NVIDIA et les unités de flux de données reconfigurables SN50 de SambaNova. La collaboration prévoit initialement 10 000 puces SN50.
Ces systèmes intégreront le portefeuille Data Center Building Block Solutions de Supermicro. Supermicro se chargera de leur intégration, de leurs essais, de leur livraison et de leur prise en charge, y compris des services sur site, tandis que les ingénieurs de SambaNova feront fonctionner les modèles sur les SN50, les optimiseront et contribueront aux déploiements chez les clients. Ce partenariat associe ainsi un réseau de fabrication et de service après-vente de serveurs aux travaux d’ingénierie des modèles nécessaires au déploiement d’accélérateurs hétérogènes.
Pourquoi l’inférence est répartie entre GPU et RDU
L’architecture répartit l’inférence en deux phases. Pendant le préremplissage, les GPU NVIDIA traitent le prompt entrant, une tâche exigeante en calcul. Les RDU SN50 prennent en charge le décodage, qui génère la réponse un jeton à la fois et sollicite principalement la mémoire. Selon SambaNova, confier chaque phase au matériel qui lui convient permet une inférence plus rapide et plus efficace que si l’on utilise un seul type de matériel.
Dans son communiqué accompagnant l’annonce, SambaNova présente l’IA agentique comme le principal cas d’usage : les agents peuvent effectuer des milliers d’appels à de grands modèles de langage, chaque appel pouvant prendre plusieurs minutes, et les charges de travail agentiques consacrent l’essentiel de leur temps au décodage. La génération des jetons devient ainsi un facteur déterminant pour l’action suivante de l’agent. Les entreprises considèrent donc le décodage comme un problème d’infrastructure à part entière : les RDU supplémentaires doivent accélérer les réponses, tandis que les GPU continuent de traiter les prompts.
À l’intérieur de la conception du SN50
Le SN50 est la RDU de cinquième génération de SambaNova. Sa fiche technique officielle indique une gravure TSMC en 5 nanomètres, 432 Mo de SRAM intégrée à la puce et 64 Go de HBM2E, la DDR5 constituant le troisième niveau de mémoire. La puce utilise l’architecture Reconfigurable Dataflow Architecture de SambaNova et est conçue pour la phase de décodage, qui sollicite principalement la mémoire, plutôt que pour les charges de travail générales des accélérateurs.
La documentation produit de SambaNova attribue à cette conception une inférence plus rapide, un meilleur débit et une efficacité énergétique accrue. Les opérations sont enchaînées dans un flux de données continu, ce qui réduit les transferts répétés en mémoire et les coûts liés au redémarrage des tâches à chaque étape. Les différents niveaux de mémoire ont également des rôles distincts : la SRAM conserve les données fréquemment utilisées à proximité du calcul, la HBM2E stocke les poids actifs des modèles et le cache KV fréquemment utilisé, tandis que la DDR5 accueille les caches de prompts, les pools de modèles plus volumineux et le cache KV rarement utilisé.
Selon SambaNova, le SN50 peut être déployé à l’échelle de 256 RDU au maximum, réparties dans plusieurs racks. Il est conçu pour les agents interactifs, les assistants de programmation et d’autres charges de travail d’inférence en plusieurs étapes, y compris les applications qui basculent entre plusieurs modèles. La conception multiniveau s’inscrit dans le projet de déploiement à l’échelle des racks prévu par la collaboration : Supermicro intégrera les RDU et les GPU aux systèmes qu’elle validera et prendra en charge.
Déploiement par les partenaires et limites des centres de données
Les clients pourront acheter des RDU SN50 en même temps que des GPU auprès de Supermicro, par le même canal que celui utilisé pour le reste de leur infrastructure d’IA. Le déploiement commencera auprès des néoclouds et des clouds souverains, avant de s’étendre aux entreprises qui exploitent l’IA dans leurs propres centres de données. Cette approche progressive cible d’abord les opérateurs de cloud, puis introduira la même architecture combinant GPU et RDU dans les installations des entreprises.
L’alimentation électrique et le refroidissement sont au cœur du projet de déploiement. Selon les entreprises, le SN50 peut faire fonctionner de grands modèles à grande vitesse et avec un débit élevé, sans nécessiter une densité de puissance extrême par rack, ce qui facilite l’installation des systèmes dans les centres de données existants. Ce profil énergétique étaye la possibilité de moderniser les installations existantes : les RDU doivent apporter une capacité supplémentaire aux sites déjà exploités par les opérateurs.
Les entreprises indiquent également que l’ajout de RDU pour le décodage peut accroître la capacité d’inférence sans attendre de nouvelles constructions, qui se heurtent à des contraintes d’alimentation électrique et de refroidissement, tout en prolongeant la durée de vie utile des GPU déjà installés. Le projet relie donc l’augmentation de capacité aux installations et aux GPU dont les opérateurs disposent déjà.
SambaNova et Supermicro s’attendent à ce que leur collaboration permette de disposer en 2027 d’une capacité d’inférence haute performance nettement supérieure à celle qui serait autrement possible. Le projet repose sur l’association d’un matériel conçu spécifiquement pour le décodage et du réseau de déploiement de Supermicro. Pour les opérateurs confrontés à des contraintes d’alimentation électrique et de refroidissement, la question reste de savoir si les installations prévues de RDU pourront accroître la capacité d’inférence utile dans les infrastructures existantes à l’échelle annoncée par les entreprises.
