Proteggere il tuo investimento in AI: perché la strategia di raffreddamento conta più che mai

I gestori dei data center stanno rischiando milioni con tecnologie di raffreddamento obsolete. La conversazione sul raffreddamento dei data center non sta solo cambiando, ma sta venendo completamente ridefinita dall’economia dell’AI. Le poste in gioco non sono mai state così alte.

Il rapido avanzamento dell’AI ha trasformato l’economia dei data center in modi che pochi avevano previsto. Quando un singolo rack di server AI costa intorno ai 3 milioni di dollari, quanto una casa di lusso, il calcolo del rischio cambia fondamentalmente. Come ha recentemente avvertito Ben Horowitz, co-fondatore di Andreessen Horowitz, i data center che finanziano questi enormi investimenti in hardware “potrebbero trovarsi in difficoltà molto velocemente” se non gestiscono con cura la loro strategia di infrastruttura.

Questa nuova realtà richiede un ripensamento fondamentale degli approcci di raffreddamento. Mentre metriche tradizionali come PUE e costi operativi sono ancora importanti, sono secondarie rispetto alla protezione di questi investimenti in hardware da milioni di dollari. La vera domanda che i gestori dei data center dovrebbero porsi è: come possiamo proteggere al meglio il nostro investimento in infrastrutture AI?

I rischi nascosti del raffreddamento tradizionale

La storica dipendenza dell’industria da soluzioni di raffreddamento a singola fase e basate sull’acqua comporta rischi sempre più inaccettabili nell’era dell’AI. Sebbene abbia servito bene i data center per anni, le richieste termiche dei carichi di lavoro dell’AI hanno spinto questa tecnologia oltre i suoi limiti pratici. Il motivo è semplice fisica: i sistemi a singola fase richiedono portate più elevate per gestire i carichi termici di oggi, aumentando il rischio di perdite e guasti catastrofici.

Non si tratta di un rischio ipotetico. Una singola perdita d’acqua può distruggere istantaneamente milioni di dollari di hardware AI, hardware che spesso ha tempi di consegna di mesi in un mercato con vincoli di approvvigionamento come quello odierno. Il costo di un solo guasto catastrofico può superare il budget per l’infrastruttura di raffreddamento di un data center per un intero anno. Eppure, molti operatori continuano a fare affidamento su questi sistemi, di fatto scommettendo il loro investimento in AI su tecnologie obsolete.

Al Data Center World 2024, il dottor Mohammad Tradat, responsabile dell’ingegneria meccanica dei data center di NVIDIA, ha chiesto: “Quanto vivrà il raffreddamento a singola fase? Sarà eliminato molto presto… e allora la necessità sarà per il raffreddamento a due fasi, basato su refrigeranti”. Non si tratta solo di un’opinione in crescita, ma di un consenso dell’industria sostenuto dalla fisica e dalla realtà finanziaria.

Un nuovo approccio alla protezione degli investimenti

La tecnologia di raffreddamento a due fasi, che utilizza refrigeranti dielettrici invece dell’acqua, cambia fondamentalmente questa equazione di rischio. Il costo di implementazione di un sistema di raffreddamento a due fasi, solitamente intorno ai 200.000 dollari per rack, dovrebbe essere considerato come un’assicurazione per proteggere un investimento in hardware AI da 5 milioni di dollari. Per mettere questo in prospettiva, si tratta di un premio del 4% per proteggere il proprio asset, notevolmente inferiore ai tassi di assicurazione per altri investimenti aziendali da milioni di dollari. Il caso d’uso diventa ancora più chiaro quando si considerano i potenziali costi della interruzione dell’addestramento dell’AI e dell’infrastruttura inattiva durante il tempo di fermo non pianificato.

Per i gestori dei data center e gli stakeholder finanziari, la decisione di investire in raffreddamento a due fasi dovrebbe essere valutata attraverso la lente della gestione del rischio e della protezione degli investimenti. Le metriche rilevanti dovrebbero includere non solo i costi operativi o l’efficienza energetica, ma anche il valore totale dell’hardware protetto, il costo di scenari di guasto potenziali, il valore di future-proofing per l’hardware di prossima generazione e il rendimento sul investimento in raffreddamento ajustato per il rischio.

Man mano che l’AI continua a spingere verso l’alto la densità e il valore dell’infrastruttura dei data center, l’industria deve evolvere il suo approccio alla strategia di raffreddamento. La domanda non è se spostarsi verso il raffreddamento a due fasi, ma quando e come effettuare la transizione minimizzando il rischio per le operazioni e gli investimenti esistenti.

Gli operatori intelligenti stanno già effettuando questo passaggio, mentre altri rischiano di imparare una lezione costosa. In un’era in cui un singolo rack costa più di molti budget operativi annuali dei data center, scommettere su tecnologie di raffreddamento obsolete non è solo rischioso, ma potenzialmente catastrofico. È il momento di agire, prima che quel rischio diventi realtà.