Au-delà du GPU : optimiser l’usine d’IA dans son ensemble

Une usine d’IA n’est pas un centre de données de plus grande taille. Elle est spécialement conçue pour produire des tokens intelligents, et non pour héberger des pages web et des courriels. Lorsqu’un hyperscaler ou un néocloud investit des milliards de dollars et des années dans la construction d’une usine d’IA, les GPU, qui assurent l’essentiel des calculs, deviennent naturellement une priorité. Mais optimiser uniquement le GPU ne revient pas à optimiser l’usine qui l’entoure. Les systèmes d’alimentation électrique et de gestion thermique doivent prendre en charge cette puissance de calcul, et les décisions prises dans un système peuvent avoir des conséquences importantes sur les autres. L’IA vise à optimiser des systèmes complexes, et pourtant, les usines qui la produisent ont souvent été optimisées composant par composant. La technologie du jumeau virtuel permet aux ingénieurs de concevoir et d’optimiser l’ensemble du système avant même le début des travaux.

Pourquoi la conception prudente est devenue l’option la plus sûre

Étant donné les conséquences imminentes d’une défaillance du système ou d’un goulot d’étranglement des performances si importantes, les premières installations ont été construites avec des marges de sécurité et du matériel excessifs. Sans feuille de route pour cette nouvelle génération de centres de données, construire avec prudence pourrait sembler l’approche la plus sûre. Ces marges ont contribué à protéger contre des problèmes tels que des pics thermiques à proximité des puces, qui peuvent laisser aux opérateurs aussi peu qu’une minute pour réagir avant que le matériel ne tombe en panne. Dans certaines installations précoces, jusqu’à 10 pour cent de la puissance disponible était immobilisée en tant que marge inutilisée.

Les usines d’IA sont exposées aux variations de température, aux intempéries, aux défaillances des équipements, à l’insuffisance des capacités, aux défauts de conception et aux problèmes de maintenance. À un tel niveau d’enjeu et à l’échelle du gigawatt, chaque jour de retard dans la mise à disposition de capacités peut représenter environ 100 millions de dollars de recettes perdues sur la génération de tokens. La prudence semblait nécessaire lorsqu’il était impossible de prévoir l’issue de ces problèmes.

Le défi devient encore plus grand lorsque ces risques concernent plusieurs systèmes indépendants. Une usine d’IA repose sur trois systèmes étroitement interdépendants : le calcul, l’alimentation électrique et la gestion thermique. Le GPU a besoin d’une chaîne d’alimentation électrique complexe et d’un système thermique tout aussi exigeant pour évacuer la chaleur qu’il génère. Lorsque le calcul, l’alimentation électrique et la gestion thermique sont traités comme des étapes distinctes, chacune optimisée dans son propre domaine, les équipes peuvent ne pas voir comment une décision prise dans un système influe sur les autres. Cela crée des angles morts et des déséquilibres, en particulier lorsque l’alimentation électrique et le refroidissement sont considérés comme des besoins en infrastructures à prendre en charge après les décisions relatives au calcul.

L’alimentation électrique et le refroidissement ne peuvent être dissociés du calcul. Ils font partie du système qui détermine l’efficacité avec laquelle les capacités de calcul peuvent être exploitées. Il faut donc passer de l’optimisation de systèmes individuels à celle de l’usine dans son ensemble.

Pourquoi la co-optimisation s’impose

Pour résoudre ce problème, il faut passer de l’optimisation indépendante de chaque système à la co-optimisation de l’usine dans son ensemble. La construction physique impose un enchaînement des décisions : un système est conçu, puis un autre est construit autour de lui, et un autre encore est ajouté pour le prendre en charge. Il devient alors difficile d’optimiser l’usine dans son ensemble, car chaque décision réduit les options disponibles pour les systèmes qui suivent. La co-optimisation exige de transposer ce processus dans un environnement virtuel, où le système complet peut être modélisé, modifié et évalué avant que quoi que ce soit ne soit figé dans le monde physique, afin de créer un plan directeur évolutif.

Modéliser l’usine avant même son existence

C’est là que la technologie du jumeau virtuel à l’échelle du système devient essentielle.

Un jumeau virtuel s’appuie sur la modélisation formelle des systèmes pour représenter conjointement les infrastructures de calcul, d’alimentation électrique et de gestion thermique ; il permet de modéliser l’usine d’IA avant même son existence physique. Contrairement à un jumeau numérique traditionnel, qui porte sur un actif physique existant, un jumeau virtuel peut modéliser un système avant que celui-ci n’existe physiquement. Il permet aux ingénieurs de tester différentes configurations et de comprendre comment les changements apportés à une partie du système influent sur les autres, avant que ces choix ne deviennent des engagements matériels.

Par exemple, augmenter la densité de GPU ne consiste pas simplement à ajouter davantage de capacités de calcul. Cela peut accroître la charge électrique, modifier les besoins en évacuation de la chaleur, influer sur l’emplacement des équipements et soulever de nouvelles questions lors de la mise en service. La modélisation conjointe de ces relations permet aux ingénieurs d’évaluer les compromis avant la construction, plutôt que de les découvrir au fur et à mesure de l’avancement du projet.

La technologie du jumeau virtuel permet aux ingénieurs de commettre virtuellement une erreur coûteuse avant qu’elle ne le devienne dans le monde physique. Elle offre un moyen de repérer les problèmes et les possibilités dans l’environnement virtuel, afin que les équipes puissent résoudre les problèmes avant qu’ils ne se concrétisent dans le monde physique. Tester les configurations avant la mise en service physique permet également de repérer et d’éliminer, dès la phase de conception, les marges de conception inutiles, les capacités électriques inutilisées et le gaspillage lié aux marges de sécurité. À grande échelle, même de petites réductions peuvent se traduire par des millions d’économies en dépenses d’investissement et par un accès plus précoce aux recettes.

 Rendre le modèle prédictif

Le modèle peut également s’appuyer sur une simulation fondée sur la physique pour prédire le comportement du système. Lorsque les principes physiques ou chimiques sous-jacents sont bien compris, les outils de simulation peuvent prédire le comportement du système. Lorsque des données d’exploitation abondantes permettent d’obtenir de meilleurs résultats, des modèles d’IA et d’apprentissage automatique peuvent compléter ces simulations.

Il en résulte un environnement permettant d’explorer le comportement du système couplé et de coordonner les décisions entre les différents domaines de l’ingénierie. Le modèle peut également évoluer à mesure que les données opérationnelles deviennent disponibles, afin que les enseignements tirés d’une installation ou d’un cycle d’exploitation puissent éclairer les conceptions et les décisions futures.

Un plan directeur pour l’usine d’IA

Le secteur pose déjà les bases de cette approche. Le plan directeur DSX de NVIDIA définit une conception de référence pour les usines d’IA à l’échelle du gigawatt. NVIDIA a commencé par définir la partie calcul de ce plan directeur à l’aide de la modélisation des systèmes et d’une approche de simulation par jumeau virtuel, et invite des partenaires de l’écosystème issus des secteurs de l’énergie, du refroidissement et de la construction, notamment Eaton, Vertiv et Jacobs, à apporter leurs propres éléments à la conception. L’interopérabilité des conceptions de référence est rendue possible par SysML, qui permet une définition à l’échelle du système, tandis qu’OpenUSD fournit une base pour les données centrées sur la 3D.

L’objectif n’est pas que chaque entreprise optimise son propre composant, puis s’attende à ce que tous ces éléments s’assemblent correctement. Il faut réunir l’expertise en calcul, en énergie, en refroidissement et en installations afin que chaque technologie de pointe contribue aux performances de l’ensemble du système.

Chaque secteur peut optimiser ses activités dans son propre domaine, mais la création d’un produit final performant exige que ces systèmes soient optimisés ensemble. À mesure que cette approche gagne en maturité, elle permet également aux infrastructures d’IA de dépasser les projets pilotes isolés et ponctuels pour évoluer vers des systèmes à l’échelle de l’entreprise, capables de gérer des environnements opérationnels très complexes.

Optimiser l’usine, pas seulement le GPU

Le GPU restera au cœur des performances des usines d’IA. Mais acheter les meilleurs GPU ne suffit pas, à lui seul, à optimiser l’usine qui les accueille. La prochaine génération d’infrastructures d’IA reposera sur l’ingénierie conjointe des systèmes de calcul, d’alimentation électrique et de gestion thermique, conçus comme un système intégré, sur la modélisation de leurs interactions avant de prendre des engagements physiques majeurs, ainsi que sur l’exploitation continue des enseignements tirés par le système pour améliorer les étapes suivantes. Nous ne pouvons ni prédire l’avenir ni éviter chaque erreur, mais la technologie des jumeaux virtuels peut aider les équipes à se préparer à l’incertitude et à optimiser les usines d’IA en tant que système.