Les centres de données basés sur l’IA ont besoin de plus que d’un refroidissement accru : ils ont besoin d’une ingénierie plus rapide

L’intelligence artificielle transforme le travail numérique, mais son impact est de plus en plus physique. L’IA à grande échelle nécessite beaucoup plus de puissance qu’auparavant. Et les centres de données qui abritent ces serveurs d’IA ont du mal à suivre la demande. En fait, un rapport de Deloitte estime que d’ici 2035, la demande d’énergie des centres de données d’IA aux États-Unis pourrait augmenter de plus de trente fois.

Cependant, le problème ne concerne pas seulement la consommation d’énergie. Les centres de données qui abritent ces serveurs d’IA doivent tenir compte du niveau de chaleur que la technologie crée. Les clusters de GPU modernes peuvent atteindre 50 kW par rack et au-delà. C’est une augmentation de dix fois par rapport aux serveurs de calcul standard de la dernière décennie.

Les systèmes de refroidissement qui ont longtemps été en place pour les centres de données pour gérer les charges de travail informatiques sont dépassés par ces nouvelles sorties de chaleur. L’infrastructure est simplement incapable de suivre, laissant les équipes d’ingénieurs chargées de concevoir les systèmes de refroidissement des centres de données face à un nouveau défi. Les ingénieurs chargés de concevoir l’infrastructure prête à l’IA trouvent de plus en plus que les flux de travail d’ingénierie traditionnels ne peuvent pas suivre l’échelle et la vitesse de déploiement de l’IA.

Peut-être de manière paradoxale, l’IA augmente à la fois la demande de capacité de centre de données et transforme le processus d’ingénierie utilisé pour construire cette capacité. Les mêmes progrès de l’IA qui entraînent des exigences d’infrastructure sans précédent commencent également à accélérer la façon dont les ingénieurs modélisent, valident et optimisent les systèmes physiques qui supportent ces charges de travail.

En effet, l’IA fait partie du processus utilisé pour concevoir l’infrastructure qui exécute l’IA.

À la lumière de cela, de nombreuses équipes d’ingénieurs adoptent des flux de travail de simulation accélérés par l’IA et natifs du cloud qui leur permettent d’évaluer les performances thermiques, les stratégies de refroidissement et les compromis d’infrastructure avant le début de la construction.

Lorsqu’il s’agit de l’infrastructure actuelle des centres de données, les enjeux sont tels que toute erreur peut être dévastatrice. Prouver les performances avant la construction est devenu l’impératif pour le succès à long terme, et non la confiance dans les hypothèses, les règles empiriques ou la validation en fin de parcours.

Les infrastructures de refroidissement traditionnelles sous tension

Malheureusement pour les équipes d’ingénieurs, les charges de travail d’IA sont fondamentalement différentes des calculs traditionnels basés sur le cloud. Il n’y a pas de flux et de reflux avec l’IA, les demandes du réseau, la production de chaleur et les exigences de puissance sont constantes.

Ce changement expose en partie une faille clé de nombreux centres de données. Beaucoup ont été construits en supposant que de telles demandes soutenues ne seraient pas nécessaires. Et parce que ces systèmes de refroidissement sont souvent très gourmands en énergie, il devient rapidement intenable de « sur-refroidir » et de supposer que cela couvrira les besoins d’un centre de données. Adopter cette approche et donner la priorité à la disponibilité entraînera une augmentation rapide des coûts et de la consommation d’énergie.

À la fin de la journée, le carrefour auquel se trouvent de nombreux centres de données n’est pas une question de « plus de chaleur ». Le risque définissant que la croissance de l’IA apporte est une marge d’erreur beaucoup plus étroite.

Pour les développeurs de centres de données, chaque retard dans le processus de validation peut avoir un impact sur les engagements des clients, la planification de la capacité ou les coûts énergétiques.

Historiquement, les équipes d’ingénieurs pouvaient compenser l’incertitude en surdimensionnant, en faisant des hypothèses de conception conservatrices et en validant en fin de parcours. L’infrastructure d’IA change cette équation. Le rythme de déploiement, l’investissement de capital requis et l’augmentation de la densité des racks laissent beaucoup moins de place pour l’ingénierie par essais et erreurs. Les décisions qui pouvaient être validées plus tard doivent maintenant être prouvées beaucoup plus tôt dans le processus de conception.

La nouvelle réalité : prouver les performances thermiques avant de commencer les travaux

Avec la marge d’erreur qui se réduit, les équipes d’ingénieurs déplacent l’analyse thermique plus tôt dans le processus de conception, alors que les changements sont encore peu coûteux et que la conception est encore flexible. Plutôt que d’attendre la mise en service pour découvrir si les modèles d’écoulement d’air, les dispositions des racks, les stratégies de confinement ou le placement de l’équipement de refroidissement sont suffisants, ils peuvent modéliser l’écoulement d’air et le transfert de chaleur avant le début de la construction.

Cela permet aux ingénieurs d’identifier les points chauds, de tester les stratégies de refroidissement et de comparer les options de conception dans des conditions de fonctionnement réalistes. Une équipe peut évaluer si l’air froid atteint les racks à haute densité, si l’échappement chaud est recyclé dans les entrées d’équipement et si la capacité de refroidissement est utilisée de manière efficace.

C’est là que l’architecture de la plate-forme compte. Pour les équipes qui travaillent sous une pression intense, la simulation ne peut pas rester confinée à un petit groupe de spécialistes ayant accès à des ressources HPC dédiées. L’utilisation d’une plate-forme de simulation native du cloud rend l’analyse de haute fidélité accessible à l’ensemble des équipes d’ingénieurs, et non à un petit groupe d’individus. Cela permet à ces équipes d’exécuter des études, de comparer des options de conception et de collaborer sans avoir à construire ou à maintenir leur propre infrastructure de calcul.

Avec l’IA d’ingénierie intégrée à ce flux de travail, le rôle de la simulation lui-même commence à changer. Historiquement, la simulation a été limitée par l’expertise, le temps et les ressources de calcul. L’exécution d’études de haute fidélité a souvent nécessité des connaissances spécialisées, du matériel dédié et de longs cycles d’itération.

L’IA d’ingénierie, qui utilise des agents presque autonomes pour automatiser et accélérer les flux de travail de conception, de simulation et d’analyse d’ingénierie, aide à réduire ces barrières en accélérant la configuration du modèle, en mettant en évidence les connaissances pertinentes et en permettant aux équipes d’évaluer plus d’options de conception en moins de temps. Plutôt que de réserver la simulation à une étape de validation finale, les équipes d’ingénieurs peuvent utiliser des flux de travail accélérés par l’IA pour explorer en continu des alternatives tout au long du processus de conception.

Le résultat n’est pas simplement une simulation plus rapide. C’est une innovation plus rapide.

Alors, à quoi ressemble cela dans la réalité pour les équipes d’ingénieurs ? Considérons une entreprise qui fabrique des systèmes de refroidissement et de ventilation pour les grandes installations et qui a besoin d’un moyen plus rapide de tester de nouvelles conceptions d’équipement. Habituellement, ces entreprises doivent construire des prototypes physiques, faire appel à des spécialistes externes et passer plusieurs semaines à vérifier si l’air se déplace et se mélange correctement à l’intérieur du système.

Mais lorsque cette entreprise décide d’utiliser un logiciel de simulation pour créer une version virtuelle de la configuration de test, l’équation change. Cette approche permet aux ingénieurs de tester les performances d’air et de température sur ordinateur avant de construire le produit réel.

Et les résultats délivrent souvent un impact réel. La phase de prétest peut être réduite à seulement 2-3 et le temps d’ingénierie peut être réduit à 40 heures au lieu de 85 dans les flux de travail traditionnels.

Mais la valeur ici est également beaucoup plus grande que simplement gagner du temps. La véritable valeur réside dans la capacité de l’équipe d’ingénieurs à poser plus de questions et à explorer des possibilités plus tôt. Que se passe-t-il si la densité des racks augmente ? Que se passe-t-il si les chemins d’écoulement d’air changent ? Que se passe-t-il si les hypothèses de redondance échouent ?

Permettre un niveau de recherche élevé comme celui-ci est ce qui élève la simulation d’un outil d’analyse à un élément crucial de la stratégie de conception d’infrastructure.

L’infrastructure d’IA nécessite une ingénierie accélérée par l’IA

La prochaine phase de l’infrastructure d’IA ne sera pas définie uniquement par la taille des installations, la densité des racks ou la capacité de refroidissement. Elle sera également définie par la rapidité avec laquelle les équipes d’ingénieurs peuvent prouver que ces systèmes fonctionneront avant qu’ils ne soient construits.

C’est là que l’avantage concurrentiel suivant de l’industrie émergera. Les développeurs de centres de données qui introduisent la simulation plus tôt dans le processus de conception, la rendent accessible à l’ensemble des équipes d’ingénieurs et la jumelent avec des flux de travail accélérés par l’IA seront mieux positionnés pour prendre des décisions confiantes avant que le capital ne soit engagé et que la construction ne commence.

À mesure que l’IA continue de remodeler les exigences physiques imposées aux centres de données, elle remodelera également la façon dont ces installations sont conçues. Les organisations qui dirigeront cette prochaine ère ne réagiront pas simplement à des charges de chaleur plus élevées ou à des contraintes énergétiques plus étroites. Elles construiront des processus de conception capables de les anticiper.