10 Domande Fondamentali da Porsi per Garantire un’Effettiva Distribuzione di Raffreddamento dei Centri Dati basati sull’Intelligenza Artificiale

Con l’aumento dell’intelligenza artificiale e dell’elaborazione ad alte prestazioni, i centri dati si stanno moltiplicando a un ritmo record. In effetti, la quantità di capacità dei centri dati in costruzione alla fine del 2024 è più che raddoppiata rispetto alla fine del 2023 (6.350 MW in costruzione rispetto a circa 3.078 MW). Allo stesso tempo, l’hardware utilizzato e i carichi di lavoro gestiti in questi centri dati sono sempre più intensivi. In queste condizioni di rapido cambiamento, sia le sfide che le poste in gioco sono in aumento.

E con i centri dati che spendono in media fino al 40% del loro intero budget energetico per il raffreddamento, la gestione termica sta diventando rapidamente una delle principali sfide per l’industria. D’altra parte, gli operatori dei centri dati hanno più opzioni che mai per raffreddare le loro strutture in modo affidabile, efficiente e conveniente.

Naturalmente, quando ci sono opzioni, ci sono anche decisioni da prendere. Quindi, quando si considera il proprio deploy di centro dati, ecco 10 domande fondamentali da porsi per mettere in funzione l’operazione rapidamente, garantendo al tempo stesso efficienza, affidabilità e sostenibilità a lungo termine.

Domanda 1: Quanto velocemente posso mettere online questo sistema di raffreddamento senza compromettere l’affidabilità?

Nella corsa all’intelligenza artificiale, il vero fattore di differenziazione per il successo dell’industria non è chi accumula più GPU – è chi le mette online più velocemente. Il tempo di attivazione (cioè il tempo che intercorre tra l’avvio di un deploy e il suo diventare operativo) è diventato il nuovo campo di battaglia, determinando quanto rapidamente le imprese possono trasformare gli investimenti in intelligenza artificiale in impatto aziendale. I leader non saranno solo quelli con enormi risorse di calcolo, ma quelli che le sbloccano per primi, accelerando l’innovazione, i ricavi e il vantaggio competitivo.

Ma accelerare il deploy del raffreddamento può avere conseguenze negative, portando a inefficienze, downtime o costosi retrofit. Gli operatori devono chiedersi se il loro sistema scelto possa essere deployato rapidamente e resistere alla prova del tempo. Una strategia che bilancia la velocità di implementazione con la robustezza fornisce sia la prontezza immediata per il mercato che la resilienza a lungo termine.

Domanda 2: Quale metodo di raffreddamento è più adatto alle esigenze del mio progetto?

Non esiste una soluzione universale per ogni deploy di centro dati. Il raffreddamento ad aria è stato a lungo lo standard, ma sta rapidamente raggiungendo i suoi limiti fisici nel gestire l’hardware avanzato e le strutture ad alta densità tipiche dei centri dati basati sull’intelligenza artificiale. Il raffreddamento liquido offre un’efficienza senza pari in scala e prestazioni future-proof per carichi di lavoro sempre più intensivi. Gli approcci ibridi possono colmare il divario, ma per il lungo termine, i centri dati basati sull’intelligenza artificiale dipenderanno dalle soluzioni di raffreddamento liquido per gestire i carichi di lavoro sempre più intensivi. La scelta del metodo di raffreddamento liquido corretto, tuttavia, dipende dal tipo di carico di lavoro, dalla densità, dalla localizzazione e da altri fattori.

Esistono due metodi di raffreddamento liquido principali in uso commerciale oggi: direct-to-chip (DTC) e immersion cooling. Sebbene il DTC sia attualmente più comune, l’immersion cooling è previsto che guadagni terreno man mano che le densità di potenza dei chip aumentano. I sistemi DTC instradano il fluido di raffreddamento direttamente ai componenti che generano calore, come CPU e GPU, attraverso piastre fredde, offrendo guadagni di efficienza rapidi con minimi cambiamenti infrastrutturali. I sistemi a singola fase sono più semplici e adatti ai retrofit, mentre i sistemi a doppia fase utilizzano refrigeranti per raggiungere prestazioni di trasferimento di calore più elevate con minor potenza di pompaggio, ma maggiore complessità del sistema. Il raffreddamento per immersione, d’altra parte, sommerge interi server in fluidi dielettrici – sia circolati (a singola fase) che bolliti e condensati all’interno di serbatoi sigillati (a doppia fase).

Quale soluzione è giusta per il tuo ambiente dipende dalla natura del tuo hardware, dei carichi di lavoro, del budget e altro. Ma essere consapevoli delle proprie opzioni è vitale per la viabilità a breve e lungo termine del tuo centro dati basato sull’intelligenza artificiale.

Domanda 3: Il mio sistema di raffreddamento supporterà i carichi di lavoro odierni e le densità guidate dall’intelligenza artificiale di domani?

Ciò ci porta alla prossima grande domanda: il mio sistema reggerà alla prova del tempo? La domanda dei centri dati sta accelerando oltre le norme storiche. I cluster di addestramento dell’intelligenza artificiale, ad esempio, possono richiedere 10-20 volte la densità di potenza dei rack aziendali tradizionali. La domanda che gli operatori devono porsi è se il loro design di raffreddamento possa accomodare future densità senza sostituzione totale.

L’aumento dell’intelligenza artificiale, dell’elaborazione ad alte prestazioni e delle architetture di rack sempre più dense sta già spingendo il raffreddamento ad aria ai suoi limiti. Nel sondaggio sui sistemi di raffreddamento del 2024 dell’Uptime Institute, la maggioranza degli operatori ha detto che il raffreddamento ad aria diventa impraticabile e/o troppo costoso a qualsiasi punto al di sopra di ~20 kW per rack. Tuttavia, l’attuale rapporto settoriale mostra che i rack dell’intelligenza artificiale già spingono comunemente 100 kW per rack. E questi numeri sono già in aumento. Nvidia ha recentemente presentato piani per le sue GPU Rubin Ultra con rack Kyber, che supereranno 600kW per rack entro il 2027.

Sapendo che il raffreddamento ad aria è sulla strada per diventare obsoleto nei deploy dei centri dati basati sull’intelligenza artificiale, gli operatori possono guardare a soluzioni ibride o a fasi ovunque i deploy completi di raffreddamento liquido non siano un’opzione. Ancora una volta, data l’enorme quantità di tempo e denaro investiti in questi progetti, la viabilità a lungo termine è di importanza fondamentale. Quindi, quando si selezionano soluzioni di raffreddamento, assicurarsi che siano pronte per il lungo termine.

Domanda 4: Quali sono le implicazioni totali dei costi per l’intero ciclo di vita?

Mentre le spese iniziali possono essere sconvolgenti nello spazio dei centri dati, le spese di capitali (CAPEX) sono solo una parte della storia. Gli operatori dovrebbero calcolare il costo totale di proprietà (TCO), comprese le spese operative (OPEX) legate al consumo di energia, alla manutenzione e ai retrofit, quando considerano le loro soluzioni di raffreddamento. Un sistema che sembra più costoso inizialmente può offrire risparmi a lungo termine attraverso l’efficienza energetica, la riduzione del downtime e l’aumento della longevità. La strategia di raffreddamento giusta non è quasi mai la più economica inizialmente – è quella che ottimizza i costi per l’intero ciclo di vita della struttura di 10-15 anni.

Ricorda, questi non sono deploy a breve termine. Inoltre, più vita si ottiene da detto deploy, più valore si può ottenere. Guardare oltre il CAPEX e pensare ai propri costi e risparmi a lungo termine è fondamentale per assicurarsi di ottenere il massimo dal proprio progetto di centro dati.

Domanda 5: Come questa strategia di raffreddamento influenzerà il mio profilo di sostenibilità?

Come menzionato in precedenza, il raffreddamento può rappresentare fino al 40% o più del consumo energetico totale di un centro dati. Mentre le norme e i requisiti di reporting ESG si espandono, gli operatori devono chiedersi: come questo sistema influisce sulla mia impronta di carbonio, sull’uso dell’energia e sugli altri impegni di sostenibilità? Le soluzioni che riducono lo spreco di energia o di risorse o si allineano con gli standard globali come il framework Green Grid sono sempre più preferibili, se non richieste, per la fiducia degli investitori e la conformità normativa.

Nel frattempo, il settore pubblico sta sempre più gridando per una riduzione del consumo di energia. Monitoring Analytics, il watchdog indipendente del mercato per la rete mid-Atlantic, ha prodotto una ricerca questo giugno che mostra come il 70% dell’aumento del costo dell’elettricità dell’anno scorso sia stato il risultato della domanda dei centri dati. Non sorprendentemente, i consumatori stanno sollevando l’allarme e gli stati stanno considerando alcune misure serie per affrontare questa preoccupazione, compresa la possibilità di interruzioni forzate durante i periodi di alta domanda. Investendo in soluzioni di raffreddamento più efficienti e sostenibili, le organizzazioni possono posizionarsi per navigare sia la percezione pubblica che le sfide normative che si trovano davanti.

Domanda 6: Quanta acqua consumerà questo approccio di raffreddamento – e è sostenibile nella mia regione?

I grandi centri dati possono consumare fino a 5 milioni di galloni di acqua al giorno. Non dovrebbe sorprendere, quindi, che la scarsità di acqua stia diventando un problema definitivo per i centri dati, specialmente nelle regioni come il sud-ovest americano e parti dell’Europa dove i diritti e le questioni di scarsità dell’acqua stanno portando a un aumento della sorveglianza sui centri dati. Per farlo nel modo giusto, gli operatori devono calcolare l’uso di acqua previsto del loro sistema di raffreddamento e valutare se si allinea con le realtà locali e regionali (in termini di disponibilità e requisiti normativi).

Non essere ingannato dal nome – il raffreddamento liquido consuma in realtà molto meno acqua dei sistemi di raffreddamento ad aria tradizionali. Secondo uno studio pubblicato da Nature, il raffreddamento liquido riduce il consumo di “acqua blu” dei centri dati del 31-52% rispetto al raffreddamento ad aria tradizionale nel corso del suo ciclo di vita. Le soluzioni di raffreddamento che minimizzano o eliminano il consumo di acqua possono aiutare a proteggere le strutture contro i rischi ambientali e normativi.

Domanda 7: Quali rischi o limitazioni sono associati al raffreddamento liquido e come possono essere mitigati?

Sebbene offra vantaggi senza precedenti in termini di efficienza, sostenibilità e ROI a lungo termine, molti miti persistono sul raffreddamento liquido, specialmente intorno all’affidabilità, al costo e all’integrazione. In realtà, i progressi nella tecnologia, nei materiali e nel design hanno reso il raffreddamento liquido sicuro, affidabile e sempre più conveniente. La chiave per gli operatori è valutare questi sistemi in base ai dati di prestazione del mondo reale, non alle percezioni superate, e progettare con le migliori pratiche consolidate.

Quando si guarda al raffreddamento liquido, è altrettanto importante essere consapevoli di quale soluzione è migliore per la propria struttura. Con diversi approcci (ad esempio direct-to-chip [DTC], immersion) e una serie di vendor che offrono una vasta gamma di soluzioni, è sempre necessario svolgere le proprie verifiche quando si considera un deploy di raffreddamento liquido.

Domanda 8: Come il mio design di raffreddamento influenzerà l’utilizzo dello spazio e la densità dei rack?

Lo spazio è altrettanto prezioso quanto la potenza nelle moderne strutture di centri dati. I rack ad alta densità supportati da un efficiente raffreddamento liquido possono ridurre drasticamente le esigenze di spazio e le impronte delle strutture. Ciò consente agli operatori di scalare i carichi di lavoro all’interno delle impronte esistenti o di minimizzare i costi di terra e costruzione per le nuove costruzioni. Riuscire a fare di più con meno spazio non solo riduce i costi, ma apre anche la porta a una varietà molto più ampia di siti idonei per la costruzione. Con impronte più piccole, gli sviluppatori possono costruire più liberamente e addirittura portare il calcolo più vicino all’utente finale. Porre queste domande in anticipo garantisce che il design di raffreddamento sia allineato con sia la densità che gli obiettivi di utilizzo dello spazio.

Domanda 9: Qual è la mia strategia di resilienza a lungo termine se i carichi di lavoro aumentano o le norme si stringono?

I centri dati non sono statici. Le improvvise ondate di domanda, le nuove applicazioni dell’intelligenza artificiale e le norme di efficienza/sostenibilità sempre più strette possono mettere rapidamente a dura prova le infrastrutture. Gli operatori devono chiedersi se la loro strategia di raffreddamento sia sufficientemente adattabile per soddisfare questi spesso imprevisti cambiamenti. I sistemi di raffreddamento efficienti devono essere pronti per la scalabilità della capacità, per soddisfare i nuovi requisiti di conformità e per integrarsi con le future tecnologie.

I sistemi che offrono modularità e i vendor con catene di approvvigionamento robuste aiuteranno a isolare il tuo centro dati dagli sbalzi della domanda, consentendoti di scalare più facilmente e di aggiornare e integrare più facilmente se e quando necessario.

Domanda 10: Sto trattando il raffreddamento come un abilitatore strategico – o solo come un ripensamento?

Questa ultima, onnicomprensiva domanda è probabilmente la più importante. Quando si considera il proprio sistema di raffreddamento, ci si deve prima prendere un momento per riconsiderare il ruolo del raffreddamento nelle operazioni generali del centro dati. Troppo spesso, il raffreddamento viene trattato come un’infrastruttura di background quando, in realtà, è un abilitatore strategico delle prestazioni, della disponibilità e della sostenibilità. Le aziende che investono in strategie di raffreddamento ben pensate guadagnano non solo efficienza operativa, ma anche un vantaggio competitivo in affidabilità, conformità e costi a lungo termine.

E poiché l’intelligenza artificiale continua a porre nuove, più intensive richieste ai centri dati, è fondamentale prendere una visione a lungo termine del raffreddamento. Non si pensi solo a ciò che è meglio, più veloce o più economico per il deploy odierno. Si pensi a come la propria soluzione di raffreddamento posiziona il centro dati 5, 10 o addirittura 15 anni nel futuro. Se il sistema di raffreddamento è a malapena in grado di soddisfare le esigenze attuali, si può essere certi che non sarà più all’altezza tra pochi anni. Ricordare che il raffreddamento è centrale per il successo complessivo della struttura per l’intero ciclo di vita.

Il Raffreddamento è Ora Centrale per il Successo a Lungo Termine dei Centri Dati – Scegliere con Saggezza

Il raffreddamento non è più una preoccupazione di retroscena – è centrale per il successo a breve e lungo termine di ogni centro dati. Porsi queste dieci domande fin dall’inizio, gli operatori possono ridurre il tempo di deploy, minimizzare i rischi e assicurarsi che le strutture siano costruite per la resilienza in un mondo guidato dall’intelligenza artificiale e caratterizzato da cambiamento e fluttuazione.

Il futuro dell’industria sarà definito non solo da quanto rapidamente gli operatori deployano la capacità, ma da quanto intelligentemente progettano per la sostenibilità e l’affidabilità a lungo termine. Coloro che trattano il raffreddamento come un abilitatore strategico saranno meglio posizionati per guidare negli anni a venire.