10 Questions à Poser pour Assurer un Déploiement de Refroidissement de Centre de Données AI Efficace

Avec l’essor de l’IA et de l’informatique haute performance, les centres de données se multiplient à un rythme record. En fait, la quantité de capacité de centre de données en construction à la fin de l’année 2024 a plus que doublé par rapport à la fin de l’année 2023 (6 350 MW en construction vs. environ 3 078 MW). Dans le même temps, le matériel utilisé et les charges de travail traitées dans ces centres de données sont de plus en plus intensifs. Dans ces conditions en constante évolution, les enjeux et les défis sont en augmentation.

Et avec les centres de données dépensant en moyenne jusqu’à 40 % de leur budget énergétique total en refroidissement, la gestion thermique devient rapidement l’un des principaux défis de l’industrie. Heureusement, les exploitants de centres de données ont plus d’options que jamais pour refroidir leurs installations de manière fiable, efficace et rentable.

Bien sûr, lorsque l’on a des options, il y a aussi des décisions à prendre. Donc, lorsqu’on considère son propre déploiement de centre de données, voici 10 questions qu’il faut répondre pour mettre son exploitation en ligne rapidement, tout en assurant l’efficacité, la fiabilité et la durabilité à long terme.

Question 1 : Comment puis-je mettre ce système de refroidissement en ligne sans compromettre la fiabilité ?

Dans la course aux armes de l’IA, le véritable facteur de différenciation pour le succès de l’industrie n’est pas qui accumule le plus de GPU – c’est qui les met en ligne le plus rapidement. Le temps de mise en service (c’est-à-dire le temps entre l’initiation d’un déploiement et son fonctionnement) est devenu le nouveau champ de bataille, déterminant à quelle vitesse les entreprises peuvent transformer leur investissement en IA en impact commercial. Les leaders ne seront pas seulement ceux qui disposent de ressources de calcul massives, mais ceux qui les débloquent en premier, accélérant l’innovation, les revenus et l’avantage concurrentiel.

Mais précipiter le déploiement du refroidissement peut avoir des conséquences négatives, entraînant des inefficacités, des temps d’arrêt ou des rénovations coûteuses. Les exploitants doivent se demander si leur système choisi peut être déployé rapidement et résister à l’épreuve du temps. Une stratégie qui équilibre la vitesse de mise en œuvre avec la robustesse offre à la fois une préparation immédiate au marché et une résilience à long terme.

Question 2 : Quelle méthode de refroidissement est la mieux adaptée aux besoins de mon projet ?

Il n’y a pas de solution universelle pour chaque déploiement de centre de données. Le refroidissement à air a longtemps été la norme, mais il atteint rapidement ses limites physiques pour gérer le matériel avancé et les racks à haute densité typiques des centres de données AI. Le refroidissement liquide offre une efficacité inégalée à grande échelle et des performances à l’épreuve du temps pour des charges de travail de plus en plus exigeantes. Les approches hybrides peuvent combler le fossé, mais pour la durée, les centres de données AI s’appuieront sur des solutions de refroidissement liquide pour gérer les charges de travail AI de plus en plus intensives. Le choix de la bonne méthode de refroidissement liquide dépend cependant du type de charge de travail, de la densité, de l’emplacement et d’autres facteurs.

Il existe deux méthodes de refroidissement liquide principalement utilisées dans le domaine commercial aujourd’hui : le refroidissement direct aux puces (DTC) et le refroidissement par immersion. Bien que le DTC soit actuellement plus courant, le refroidissement par immersion devrait gagner en popularité à mesure que les densités de puissance des puces augmentent. Les systèmes DTC acheminent le fluide de refroidissement directement vers les composants générant de la chaleur, tels que les CPU et les GPU, via des plaques froides, offrant des gains d’efficacité rapides avec des modifications d’infrastructure minimales. Les systèmes monophasés sont plus simples et conviennent aux rénovations, tandis que les systèmes diphasés utilisent des réfrigérants pour atteindre des performances de transfert de chaleur plus élevées avec une puissance de pompage plus faible, mais une complexité de système plus grande. Le refroidissement par immersion, en revanche, plonge les serveurs entiers dans des fluides diélectriques – soit circulés (monophasé) soit bouillis et condensés dans des réservoirs scellés (diphasé).

La solution qui convient à votre environnement dépend de la nature de votre matériel, de vos charges de travail, de votre budget et de bien d’autres facteurs. Mais être conscient de ses options est vital pour la viabilité à court et à long terme de votre centre de données AI.

Question 3 : Mon système de refroidissement soutiendra-t-il les charges de travail actuelles et les densités impulsées par l’IA de demain ?

Ce qui nous amène à la prochaine grande question : mon système résistera-t-il à l’épreuve du temps ? La demande de centres de données est en augmentation bien au-delà des normes historiques. Les grappes de formation AI, par exemple, peuvent nécessiter 10 à 20 fois la densité de puissance des racks d’entreprise traditionnels. La question que les exploitants doivent se poser est de savoir si leur conception de refroidissement peut accueillir des densités futures sans remplacement complet.

L’essor de l’IA, de l’informatique haute performance (HPC) et des architectures de rack de plus en plus denses pousse déjà le refroidissement à air à ses limites. Dans l’enquête de 2024 de l’Uptime Institute sur les systèmes de refroidissement, la majorité des exploitants ont déclaré que le refroidissement à air devient impraticable et/ou trop coûteux à tout point au-dessus de ~20 kW par rack. Cependant, les rapports de l’industrie actuels montrent que les racks AI déjà poussent couramment 100 kW par rack. Et ces chiffres sont déjà en hausse. Nvidia a récemment présenté des plans pour ses GPU Rubin Ultra avec des racks Kyber, qui dépasseront 600 kW par rack d’ici 2027.

En sachant que le refroidissement à air est sur le point de devenir obsolète dans les déploiements de centres de données AI, les exploitants peuvent se tourner vers des approches hybrides ou progressives partout où les déploiements de refroidissement liquide complets ne sont pas une option. Une fois encore, étant donné le temps et les coûts considérables investis dans ces projets, la viabilité à long terme est d’une importance capitale. Lors de la sélection des solutions de refroidissement, assurez-vous qu’elles sont prêtes pour la durée.

Question 4 : Quelles sont les implications de coût totales sur l’ensemble du cycle de vie ?

Alors que les dépenses initiales peuvent être impressionnantes dans le domaine des centres de données, les dépenses d’investissement (CAPEX) ne sont qu’une partie de l’histoire. Les exploitants doivent calculer le coût total de possession (TCO), y compris les dépenses d’exploitation (OPEX) liées à la consommation d’énergie, à la maintenance et aux rénovations, lorsqu’ils considèrent leurs solutions de refroidissement. Un système qui semble plus coûteux à l’origine peut offrir des économies à long terme grâce à l’efficacité énergétique, à la réduction des temps d’arrêt et à une durée de vie plus longue. La bonne stratégie de refroidissement n’est rarement la moins chère à l’origine – c’est celle qui optimise les coûts sur les 10 à 15 ans de vie de l’installation.

Rappelez-vous que ce ne sont pas des déploiements à court terme. De plus, plus vous tirez parti de ce déploiement, plus vous avez des chances de gagner en valeur. Réfléchir au-delà du CAPEX et penser à vos coûts et économies à long terme est crucial pour vous assurer que vous tirez le meilleur parti de votre projet de centre de données.

Question 5 : Comment cette stratégie de refroidissement affectera-t-elle mon profil de durabilité ?

Comme mentionné précédemment, le refroidissement peut représenter 40 % ou plus de la consommation d’énergie totale d’un centre de données. Alors que les réglementations et les exigences de reporting ESG s’étendent, les exploitants doivent se demander : comment ce système impacte-t-il mon empreinte carbone, ma consommation d’énergie et d’autres engagements en matière de durabilité ? Les solutions qui réduisent la consommation d’énergie ou les déchets de ressources ou qui s’alignent sur les normes mondiales telles que le cadre Green Grid sont de plus en plus non seulement préférables mais exigées pour la confiance des investisseurs et la conformité réglementaire.

Pendant ce temps, le secteur public réclame de plus en plus une réduction de la consommation d’énergie. Monitoring Analytics, l’organisme de surveillance indépendant du réseau du mid-Atlantic, a produit des recherches en juin qui montrent que 70 % de l’augmentation des coûts d’électricité de l’année dernière était due à la demande des centres de données. Il n’est pas surprenant que les consommateurs sonnent l’alarme et que les États envisagent des mesures sérieuses pour répondre à cette préoccupation, y compris la possibilité de coupures forcées pendant les périodes de forte demande. En investissant dans des solutions de refroidissement plus économes en énergie et plus durables, les organisations peuvent se positionner pour naviguer à la fois dans la perception du public et les défis réglementaires qui les attendent.

Question 6 : Combien d’eau cette approche de refroidissement consommera-t-elle – et est-elle durable dans ma région ?

Les grands centres de données peuvent consommer jusqu’à 5 millions de gallons d’eau par jour. Il ne devrait pas être surprenant, alors, que la rareté de l’eau devienne un problème déterminant pour les centres de données, en particulier dans des régions comme le sud-ouest américain et certaines parties de l’Europe où les droits et les problèmes de rareté de l’eau conduisent à une surveillance accrue des centres de données. Pour réussir, les exploitants doivent calculer l’utilisation d’eau projetée de leur système de refroidissement et évaluer si elle correspond à la réalité locale et régionale (en termes d’availability et d’exigences réglementaires).

Ne soyez pas trompé par le nom – le refroidissement liquide consomme en réalité nettement moins d’eau que les systèmes de refroidissement à air traditionnels. Selon une étude publiée par Nature, le refroidissement liquide réduit la consommation d’eau “bleue” des centres de données de 31 à 52 % par rapport au refroidissement à air traditionnel sur son cycle de vie. Les solutions de refroidissement qui minimisent ou éliminent la consommation d’eau peuvent aider à protéger les installations contre les risques environnementaux et réglementaires.

Question 7 : Quels risques ou limites sont associés au refroidissement liquide, et comment peuvent-ils être atténués ?

Bien qu’il offre des avantages sans précédent en termes d’efficacité, de durabilité et de ROI à long terme, de nombreux mythes persistent sur le refroidissement liquide, en particulier en ce qui concerne la fiabilité, le coût et l’intégration. En réalité, les progrès de la technologie, des matériaux et de la conception ont rendu le refroidissement liquide sûr, fiable et de plus en plus rentable. La clé pour les exploitants est d’évaluer ces systèmes en fonction de données de performance réelles, et non de perceptions obsolètes, et de concevoir en tenant compte des meilleures pratiques éprouvées.

Lorsque l’on examine le refroidissement liquide, il est tout aussi important d’être conscient de quelle solution est la meilleure pour son installation. Avec différentes approches (par exemple, direct-to-chip [DTC], immersion) et de nombreux fournisseurs offrant une large gamme de solutions, il faut toujours effectuer ses propres recherches lorsqu’on envisage un déploiement de refroidissement liquide.

Question 8 : Comment ma conception de refroidissement affectera-t-elle l’utilisation de l’espace et la densité des racks ?

L’espace est tout aussi précieux que la puissance dans les installations de centres de données modernes. Les racks à haute densité soutenus par un refroidissement liquide efficace peuvent réduire de manière spectaculaire les exigences en termes d’espace de plancher et d’empreinte de l’installation. Cela, à son tour, permet aux exploitants d’accroître les charges de travail dans les empreintes existantes ou de minimiser les coûts de terre et de construction pour les nouvelles constructions. Pouvoir faire plus avec moins d’espace ne réduit pas seulement les coûts, mais ouvre également la porte à un éventail bien plus large de sites viables pour la construction. Avec des empreintes plus petites, les développeurs peuvent construire plus librement et même rapprocher le calcul de l’utilisateur final. Se poser ces questions dès le départ garantit que la conception de refroidissement est alignée à la fois sur la densité et les objectifs d’utilisation de l’espace.

Question 9 : Quelle est ma stratégie de résilience à long terme si les charges de travail augmentent ou si les réglementations se resserrent ?

Les centres de données ne sont pas statiques. Les pics de demande inattendus, les nouvelles applications AI et les exigences de durabilité/efficacité plus strictes peuvent mettre rapidement à rude épreuve les infrastructures. Les exploitants doivent se demander si leur stratégie de refroidissement est suffisamment adaptable pour répondre à ces changements souvent inattendus. Les systèmes de refroidissement efficaces doivent être prêts à augmenter la capacité, à répondre à de nouvelles exigences de conformité et à s’intégrer avec les technologies futures.

Les systèmes qui offrent une modularité et les fournisseurs avec des chaînes d’approvisionnement solides aideront à protéger votre centre de données contre les fluctuations de la demande, vous permettant de mettre à l’échelle plus facilement et de mettre à niveau et d’intégrer plus facilement si et cuando nécessaire.

Question 10 : Traite-t-on le refroidissement comme un facteur stratégique – ou juste comme une après-pensée ?

Cette dernière question globale est sans doute la plus importante. Lorsque l’on considère son système de refroidissement, prenez un moment pour réévaluer le rôle du refroidissement dans l’ensemble de vos opérations de centre de données. Trop souvent, le refroidissement est traité comme une infrastructure de fond lorsque, en réalité, il s’agit d’un facteur stratégique de performance, de disponibilité et de durabilité. Les entreprises qui investissent dans des stratégies de refroidissement réfléchies gagnent non seulement en efficacité opérationnelle mais aussi un avantage concurrentiel en termes de fiabilité, de conformité et de coûts à long terme.

Et alors que l’IA continue de mettre de nouvelles exigences plus intensives sur les centres de données, il est crucial de prendre une vue à long terme du refroidissement. Ne pensez pas seulement à ce qui est le meilleur, le plus rapide ou le moins cher pour votre déploiement aujourd’hui. Pensez à la façon dont votre solution de refroidissement vous positionne 5, 10 ou même 15 ans à l’avance. Si votre système de refroidissement répond à peine aux exigences aujourd’hui, vous pouvez être sûr qu’il ne sera plus à la hauteur dans quelques années. Rappelez-vous, le refroidissement est central au succès global de votre installation tout au long de son cycle de vie.

Le refroidissement est maintenant central au succès à long terme des centres de données – choisissez avec soin

Le refroidissement n’est plus une préoccupation secondaire – il est central au succès à court et à long terme de chaque centre de données. En posant ces dix questions dès le départ, les exploitants peuvent réduire le temps de déploiement, minimiser les risques et s’assurer que les installations sont construites pour la résilience dans un monde impulsé par l’IA et caractérisé par le changement et les fluctuations.

Le futur de l’industrie sera défini non seulement par la vitesse à laquelle les exploitants déployeront la capacité, mais aussi par la manière dont ils conçoivent de manière intelligente pour la durabilité et la fiabilité à long terme. Ceux qui traitent le refroidissement comme un facteur stratégique seront les mieux placés pour diriger dans les années à venir.