Protéger votre investissement dans l’IA : pourquoi la stratégie de refroidissement compte plus que jamais

Les exploitants de centres de données jouent avec des millions en utilisant une technologie de refroidissement obsolète. La conversation autour du refroidissement des centres de données n’est pas seulement en train de changer, mais est complètement redéfinie par les économies de l’IA. Les enjeux n’ont jamais été plus élevés.

L’avancement rapide de l’IA a transformé les économies des centres de données de manière que peu de gens avaient prévu. Lorsqu’un seul rack de serveurs d’IA coûte environ 3 millions de dollars, autant qu’une maison de luxe, le calcul du risque change fondamentalement. Comme l’a récemment averti Ben Horowitz, co-fondateur d’Andreessen Horowitz, les centres de données qui financent ces investissements massifs en matériel « pourraient se retrouver très vite en difficulté » s’ils ne gèrent pas soigneusement leur stratégie d’infrastructure.

Cette nouvelle réalité exige une réflexion fondamentale sur les approches de refroidissement. Alors que les métriques traditionnelles comme le PUE et les coûts d’exploitation sont toujours importantes, elles sont secondaires par rapport à la protection de ces investissements en matériel de plusieurs millions de dollars. La vraie question que les exploitants de centres de données devraient se poser est : Comment protéger au mieux notre investissement dans l’infrastructure d’IA ?

Les risques cachés du refroidissement traditionnel

La dépendance historique de l’industrie à l’égard des solutions de refroidissement à phase unique et basées sur l’eau comporte des risques de plus en plus inacceptables à l’ère de l’IA. Même si cela a bien servi les centres de données pendant des années, les exigences thermiques des charges de travail d’IA ont poussé cette technologie au-delà de ses limites pratiques. La raison est simple : les systèmes à phase unique nécessitent des débits plus élevés pour gérer les charges thermiques d’aujourd’hui, augmentant ainsi le risque de fuites et de défaillances catastrophiques.

Ceci n’est pas un risque hypothétique. Une seule fuite d’eau peut détruire instantanément des millions de dollars de matériel d’IA, du matériel qui a souvent des délais de remplacement de plusieurs mois sur le marché actuellement contraint. Le coût d’une seule défaillance catastrophique peut dépasser le budget d’infrastructure de refroidissement d’un centre de données pour une année entière. Pourtant, de nombreux exploitants continuent de s’appuyer sur ces systèmes, gambiant en effet leur investissement dans l’IA sur une technologie vieillissante.

Lors de la conférence Data Center World 2024, le Dr Mohammad Tradat, responsable de l’ingénierie mécanique des centres de données chez NVIDIA, a demandé : « Combien de temps le refroidissement à phase unique vivra-t-il ? Il sera bientôt abandonné… et alors le besoin sera pour un refroidissement à deux phases, basé sur des réfrigérants ». Ce n’est pas juste une opinion qui se répand, c’est de plus en plus un consensus de l’industrie soutenu par la physique et la réalité financière.

Une nouvelle approche de protection des investissements

La technologie de refroidissement à deux phases, qui utilise des réfrigérants diélectriques au lieu d’eau, change fondamentalement cette équation de risque. Le coût de la mise en œuvre d’un système de refroidissement à deux phases, généralement autour de 200 000 dollars par rack, doit être considéré comme une assurance pour protéger un investissement de 5 millions de dollars en matériel d’IA. Pour mettre cela en perspective, c’est une prime de 4 % pour protéger votre actif, nettement inférieure aux taux d’assurance pour d’autres investissements commerciaux de plusieurs millions de dollars. Le cas d’affaires devient encore plus clair lorsqu’on prend en compte les coûts potentiels de la perturbation de la formation d’IA et de l’infrastructure inactifs pendant les temps d’arrêt non planifiés.

Pour les exploitants de centres de données et les parties prenantes financières, la décision d’investir dans un refroidissement à deux phases doit être évaluée à travers le prisme de la gestion des risques et de la protection des investissements. Les métriques pertinentes doivent inclure non seulement les coûts d’exploitation ou l’efficacité énergétique, mais également la valeur totale du matériel protégé, le coût des scénarios de défaillance potentiels, la valeur de préparation pour le matériel de nouvelle génération et le rendement ajusté du risque sur l’investissement dans le refroidissement.

À mesure que l’IA continue de faire augmenter la densité et la valeur de l’infrastructure des centres de données, l’industrie doit évoluer son approche de la stratégie de refroidissement. La question n’est pas de savoir si l’on doit passer au refroidissement à deux phases, mais quand et comment effectuer cette transition tout en minimisant les risques pour les opérations et les investissements existants.

Les exploitants intelligents sont déjà en train de faire ce changement, tandis que d’autres risquent d’apprendre une leçon coûteuse. À une époque où un seul rack coûte plus que le budget annuel d’exploitation de nombreux centres de données, jouer avec une technologie de refroidissement obsolète n’est pas seulement risqué, mais potentiellement catastrophique. Il est temps d’agir maintenant, avant que ce risque ne devienne une réalité.