Leader di pensiero

Le Tre Generazioni di Raffreddamento dei Data Center – E Perché La Maggior Parte Degli Operatori Sta Costruendo Un’Infrastruttura Di Ieri

mm
Aggiungi Unite.AI alle tue fonti preferite su Google

Tre anni fa, l’industria dei data center discuteva se il raffreddamento a liquido sarebbe mai stato necessario. Due anni fa, la maggior parte degli operatori credeva che il raffreddamento a singola fase sarebbe stata la soluzione. Oggi, le strutture leader stanno passando a prossime generazioni di architetture di raffreddamento, mentre molti nuovi progetti stanno bloccando sistemi che saranno superati entro pochi anni.

Questa divergenza è guidata dalla fisica e dalle roadmap dei processori che sono già visibili fino al 2027. Insieme, stanno creando una divisione tra gli operatori che capiscono che il raffreddamento sta entrando in una nuova era architettonica e quelli che potrebbero presto scoprire di aver investito centinaia di milioni in infrastrutture che non possono supportare la prossima ondata di processori AI.

Le Tre Generazioni di Raffreddamento

Il raffreddamento dei data center è progredito attraverso tre ere architettoniche distinte, ciascuna definita da un nuovo insieme di ostacoli da superare e dalle densità dei rack che richiedono un supporto economico.

  • Generazione 1: Raffreddamento ad Aria (2000-2023): Ha raggiunto un picco di 10-15 kW per rack. L’economia ha iniziato a rompersi intorno al 2020 poiché i carichi di lavoro AI hanno superato i 20 kW. Entro il 2023, il raffreddamento ad aria era in gran parte obsoleto per nuovi progetti ad alta densità.

  • Generazione 2: Liquido a Singola Fase (2020-2027): Il primo approccio di raffreddamento a liquido. Utilizza acqua o PG25 a elevate portate per rimuovere il calore attraverso il cambiamento di temperatura. Viabile da 20-120 kW per rack, ma mostra segni di stress sopra i 150 kW. Si prevede che raggiungerà i suoi limiti pratici entro il 2027 poiché i processori supereranno i 2.000 W.

  • Generazione 3: Due Fasi + Reiezione di Calore Avanzata (2024-2035+): Impiega refrigeranti che assorbono il calore attraverso il cambiamento di fase piuttosto che il cambiamento di temperatura. Scalabile da 150 kW e oltre per rack. Consente nuove strategie di reiezione del calore dalla scheda alla atmosfera. Già in uso da parte degli operatori leader e si prevede che dominerà entro il 2027-2028.

Ogni transizione segna un punto di rottura – quando la fisica e l’economia raggiungono contemporaneamente il loro soffitto.

Il Problema Fisico della Generazione 2

I primi progetti di Generazione 2 stanno iniziando a rivelare i limiti del raffreddamento a singola fase.

I sistemi basati sull’acqua richiedono portate pari a circa 1,5 litri al minuto per kilowatt. Un rack da 120 kW richiede circa 180 litri al minuto; a 250 kW, ciò salta a 375 litri al minuto attraverso piastre fredde con orifizi misurati in millimetri.

Al GTC di quest’anno, i rack collegati a linee della dimensione di un tubo antincendio hanno reso visibile la sfida. Le elevate portate creano problemi a cascata. L’acqua miscelata con glicole ossida le strutture microforate e la corrosione è aggravata dalle velocità di flusso che erodono le alette indebolite. Le richieste di manutenzione hanno sorpreso molti operatori: cambi di filtro mensili invece di trimestrali o due volte all’anno, monitoraggio costante della chimica e “borse di glicole” attaccate ai rack.

I tassi di guasto sono altrettanto preoccupanti. I dati di campo interni suggeriscono che circa il 4% delle GPU raffreddate ad acqua falliscono nel corso di un ciclo di vita di tre anni a causa di perdite. Con rack che contengono attrezzature del valore di 3-5 milioni di dollari, quella perdita rompe fondamentalmente l’economia della Generazione 2.

Un’analisi di un impianto da 10 MW condotta da Jacobs Engineering mette in evidenza un’altra inefficienza. I sistemi a singola fase richiedono temperature dell’acqua più fredde rispetto ai sistemi della Generazione 3. Le temperature dell’acqua più fredde richieste dalla Generazione 2 aumentano sia i requisiti di capacità dei refrigeratori che il consumo di energia.

Cosa Rende Unica la Generazione 3

La Generazione 3 rappresenta un vero e proprio cambiamento architettonico. I refrigeranti a due fasi catturano il calore attraverso il cambiamento di fase, riducendo le portate di flusso di un fattore da quattro a nove. La riduzione della velocità del fluido riduce notevolmente lo stress dell’infrastruttura, minimizza l’erosione delle piastre fredde ed elimina gran parte del carico di manutenzione che affligge la Generazione 2.

I refrigeranti consentono anche nuovi progetti di reiezione del calore – come sistemi refrigerante-CO₂ e refrigerante-refrigerante – che ottimizzano il raffreddamento dalla scheda all’atmosfera. Questi progetti sono già in produzione, dimostrando la scalabilità e l’efficienza economica della Generazione 3.

Quando Jacobs Engineering – responsabile di oltre l’80% dei progetti di MEP dei data center a livello globale – ha creato modelli di riferimento da 10 MW affiancati, ha rimosso il bias del fornitore dal confronto.

Risultati:

  • CapEx: 10,39 milioni di dollari per la singola fase vs. 10,38 milioni di dollari per la doppia fase

  • OpEx annuale: 1,04 milioni di dollari vs. 679.000 dollari (riduzione del 35%)

  • TCO a 5 anni: 15,6 milioni di dollari vs. 13,8 milioni di dollari (risparmio del 12%)

La parità di CapEx ha sorpreso molti che si aspettavano un premio per la doppia fase. I sistemi a doppia fase attuali richiedono più CDU, ma i progetti a singola fase richiedono complessi manifold di fila, rilevamento di perdite robusto e filtraggio armonico – complessità evitate con le attuali CDU a doppia fase. Le prossime CDU in arrivo nel 2026 ridurranno ulteriormente i costi, rendendo la Generazione 3 ancora più economica da distribuire.

Il vantaggio di OpEx deriva dalla termodinamica. I sistemi a doppia fase mantengono temperature della scheda identiche utilizzando acqua di stabilimento più calda – circa 8°C più alta in media. Ogni grado risparmiato riduce l’uso di energia annuale di circa il 4%, traducendosi nella riduzione del 35% di OpEx documentata da Jacobs in tutti i climi, da Phoenix a Stoccolma.

Gli operatori lungimiranti stanno andando oltre, convertendo quella margine termico in circa il 5% di capacità di calcolo aggiuntiva all’interno della stessa busta di potenza. In un mondo in cui ogni GPU rappresenta entrate e la potenza è limitata, quel vantaggio diventa un differenziatore competitivo.

La Roadmap del Silicio Impone la Questione

Il passaggio alla Generazione 3 non è guidato dai fornitori di raffreddamento – è dettato dal design del processore.

Le architetture Rubin di NVIDIA sono previste superare i 2.000 W per processore. L’MI450 di AMD è su una traiettoria simile. Ogni importante produttore di chip sta inserendo più prestazioni in footprint più piccoli, spingendo la densità termica verso l’alto.

La sfida chiave è il flusso di calore – la concentrazione di calore misurata in watt per centimetro quadrato. Man mano che il flusso di calore aumenta, le soluzioni della Generazione 2 raggiungono i limiti fisici e economici. Le portate di flusso diventano distruttive, le delta di temperatura insostenibili e i costi del sistema insostenibili.

La Generazione 3 è stata costruita per questa realtà. Gli operatori leader stanno già specificando rack da 250 kW con percorsi chiari per 1 MW+. Aspettare per “vedere cosa vince” può sembrare conservativo, ma è l’approccio più rischioso. La roadmap del silicio è fissa; la fisica non si piega. L’unica decisione rimasta è quando agire.

Il Dilemma del Brownfield

Miliardi sono stati investiti proprio adesso in infrastrutture di Generazione 2 che saranno limitate entro 36 mesi. Le strutture progettate oggi intorno all’acqua a singola fase lotteranno per supportare i processori della classe 2027. Il retrofit successivo costa molto più che costruire con la Generazione 3 oggi.

Per i siti esistenti, i sistemi refrigerante-aria possono servire come un ponte, ma non sono una soluzione a lungo termine. La direzione dell’industria è chiara: le architetture della Generazione 3 saranno il fulcro della prossima decade di nuovi progetti.

Una Scelta Generazionale

Ogni transizione di raffreddamento ha sembrato sufficiente fino a quando la prossima generazione non l’ha resa obsoleta. Gli operatori che hanno adottato il raffreddamento a liquido precocemente – adottandolo nel 2020-2021 invece del 2023 – hanno guadagnato quasi due anni di vantaggio di distribuzione.

La stessa inflessione è in corso di nuovo. La fisica è provata. L’economia è convalidata da un’analisi indipendente. Le roadmap dei processori rendono la transizione inevitabile.

La domanda non è se il cambiamento si verificherà – è se lo guiderai o sarai costretto a farlo una volta che la Generazione 2 raggiungerà i suoi limiti.

I data center progettati oggi opereranno fino agli anni ’30. Costruire con architetture della Generazione 3 garantisce che rimangano validi per l’era dell’AI piuttosto che diventare asset limitati prima ancora di stabilizzarsi.

Il futuro del raffreddamento dei data center è una trasformazione generazionale – e la Generazione 3 è già qui.

Josh Claman è il Presidente Esecutivo e Amministratore Delegato Fondatore di Accelsius, un leader globale nella tecnologia di raffreddamento liquido a due fasi diretto ai chip per data center di intelligenza artificiale. Ha co-fondato Accelsius nel 2022 per affrontare una delle sfide più pressanti del settore: le enormi richieste di energia e acqua poste alle comunità dalle infrastrutture di intelligenza artificiale. Sotto la sua guida, l'azienda ha sviluppato NeuCool, una piattaforma di raffreddamento chiusa e senza acqua progettata per le richieste termiche dei chip di intelligenza artificiale di prossima generazione - offrendo fino al 50% di risparmio energetico rispetto al raffreddamento tradizionale ad aria e eliminando la dipendenza delle strutture dalle forniture di acqua locali.

Claman porta più di 30 anni di leadership tecnologica globale nel ruolo. In precedenza, ha ricoperto il ruolo di Vice Presidente di Public e Large Enterprise per le Americhe presso Dell Technologies, sovraintendendo a unità aziendali da multi-miliardi di dollari in Nord e Sud America, e di General Manager di Dell UK - parte di una carriera che ha attraversato cinque continenti e ha incluso ruoli senior presso AT&T e NCR. In seguito, ha ricoperto il ruolo di Presidente di ReachLocal, Chief Business Officer presso il pioniere della stampa 3D Stratasys e Amministratore Delegato della società di salute digitale Rimidi.

Claman ha conseguito un BA con alta distinzione in Storia e Governo presso l'Università dell'Illinois Urbana-Champaign e un MBA presso la Darla Moore School of Business dell'Università del South Carolina. Scrive e parla frequentemente sull'intersezione di tecnologia, energia e politica pubblica, e ha discusso la sostenibilità dei data center in forum in tutta Nord America e Europa. Egli ritiene che la licenza a lungo termine dell'industria per operare dipenda tanto dalla fiducia della comunità quanto dalle prestazioni tecniche.