Il vero collo di bottiglia dell’IA: potenza, raffreddamento e fisica della scala

L’intelligenza artificiale ha fatto progressi straordinari negli ultimi dieci anni. GPU più veloci, cluster più grandi e architetture rivoluzionarie hanno sbloccato innovazioni che sembravano impossibili. Tuttavia, mentre l’industria si avvicina a modelli da trilioni di parametri e fabbriche di IA iperscalabili, la prossima barriera non ha nulla a che fare con gli algoritmi. Il vero collo di bottiglia oggi è fisico: potenza, raffreddamento e infrastrutture necessarie per sostenere il calcolo a scala planetaria.

La domanda non è più quanti chip si possono produrre, ma se si può fornire i gigawatt, l’acqua e le linee di trasmissione necessarie per farli funzionare. L’infrastruttura, non il silicio, è ciò che determinerà il ritmo dell’IA negli anni a venire.

Gigawatt oltre Gigaflops

Il progetto “Stargate” di OpenAI, in costruzione con Oracle (ORCL ) e SoftBank, ha come obiettivo quasi 7 gigawatt di capacità in campus negli Stati Uniti – paragonabile a più reattori nucleari. A questa scala, la principale sfida non è produrre GPU, ma assicurarsi di avere centrali elettriche e sottostazioni per mantenerle in funzione.

La domanda di Microsoft (MSFT ) è altrettanto sbalorditiva. I carichi di lavoro di IA sono previsti richiedere tanto elettricità quanto l’intera regione del New England entro il 2030. Ciò aiuta a spiegare perché l’azienda ha investito decine di miliardi in progetti di energia rinnovabile e sta anche perseguendo opzioni più sperimentali come la fusione nucleare e i reattori nucleari avanzati.

La dinamica si sta riversando nella politica energetica. Nella PJM Interconnection, l’organizzazione di trasmissione regionale che gestisce la rete per oltre 65 milioni di persone in 13 stati e a Washington, DC, le utility stanno esplorando meccanismi di riduzione per i data center durante la domanda di picco. Le grandi aziende tecnologiche stanno facendo pressione contro tali restrizioni, ma il fatto che i regolatori stiano considerando tali restrizioni mostra quanto l’IA sia diventata centrale nella pianificazione della rete.

La sfida del raffreddamento

Fornire elettricità è solo metà del problema. Una volta che l’elettricità raggiunge gli scaffali, la prossima sfida è il calore. Ogni GPU di fascia alta consuma circa 700 watt e con gli scaffali che ospitano centinaia di GPU, le densità raggiungono 100-600 kilowatt per scaffale. Il raffreddamento ad aria, lo standard dell’industria per decenni, diventa impraticabile oltre i 40 kilowatt per scaffale a causa delle inefficienze del flusso d’aria e della ricircolazione.

Il raffreddamento a liquido è quindi passato da nicchia a mainstream. Le piattaforme a liquido Blackwell di NVIDIA (NVDA ) sono progettate per cluster di IA iperscalabili e offrono un’efficienza energetica 25 volte migliore e un’efficienza idrica 300 volte superiore rispetto agli scaffali raffreddati ad aria. L’azienda ha anche collaborato con Vertiv per un architettura di riferimento che può gestire oltre 130 kilowatt per scaffale, rendendo possibili i dispiegamenti di GPU densi.

Le startup stanno innovando anche. Corintis, un’azienda svizzera che incorpora microcanali direttamente nei substrati dei chip, ha recentemente raccolto 24 milioni di dollari di finanziamenti e conta già Microsoft tra i suoi clienti. Il team di ricerca di Microsoft ha dimostrato canali microfluidici incisi nel packaging del chip, riducendo le temperature di picco della GPU fino al 65% e triplicando l’efficienza rispetto alle piastre fredde tradizionali. Queste tecnologie rendono possibile mantenere le GPU in funzione a pieno regime senza fondere il data center.

L’acqua come variabile strategica

Il raffreddamento a liquido introduce un’altra variabile: il consumo di acqua. I sistemi di raffreddamento a evaporazione e a acqua fredda possono richiedere enormi volumi quando scalati a campus di centinaia di megawatt. A Phoenix, cluster di data center possono richiedere centinaia di milioni di galloni di acqua al giorno, sollevando preoccupazioni in regioni colpite dalla siccità.

Ciò ha spinto lo sviluppo di sistemi di raffreddamento a zero acqua e a ciclo chiuso. IEEE Spectrum ha documentato strategie come bagni dielettrici sigillati, raffreddatori a secco e condizionatori d’aria senza acqua che riducono l’uso di acqua potabile quasi a zero. Nel frattempo, alcuni operatori stanno sperimentando il riutilizzo del calore di scarto. Progetti come Aquasar e iDataCool hanno mostrato come i circuiti di raffreddamento a acqua calda possano alimentare sistemi di riscaldamento degli edifici o condizionatori ad assorbimento, riciclando gran parte dell’energia che altrimenti sarebbe andata persa.

Il compromesso è spesso tra acqua ed elettricità: i sistemi a ciclo chiuso o a secco consumano più energia, mentre i progetti a evaporazione risparmiano energia ma attingono pesantemente all’acqua. In regioni con stress idrico, la politica sta sempre più favorendo la conservazione dell’acqua anche se significa un maggior consumo di energia.

Infrastrutture e rete

Anche con soluzioni di potenza e raffreddamento in atto, l’ultimo collo di bottiglia è l’infrastruttura. Le decisioni di localizzazione ora determinano i vincitori e i perdenti nella corsa all’IA.

Il campus Fairwater di Microsoft da 80 miliardi di dollari in Wisconsin illustra come la localizzazione strategica sia diventata. Il sito si estende su 315 acri, ospita centinaia di migliaia di GPU e è stato scelto per l’accesso a sottostazioni, linee di fibra e acque sotterranee. La progettazione enfatizza anche il raffreddamento a ciclo chiuso per minimizzare l’impatto sull’acqua.

Per supportare il suo carico crescente, Microsoft ha firmato un accordo storico con Brookfield per aggiungere 10,5 gigawatt di capacità rinnovabile entro il 2030. Allo stesso tempo, ha sostenuto progetti più sperimentali come una centrale di fusione nucleare in costruzione da Helion Energy, programmata per alimentare i data center entro il 2028, e un accordo ventennale per riaprire la centrale nucleare di Three Mile Island in Pennsylvania.

Amazon (AMZN ) e Google (GOOGL ) stanno intraprendendo passi simili, assicurandosi siti vicino a centrali nucleari e sviluppando i propri portafogli di energia pulita. In Irlanda, dove i data center consumano già più energia di tutte le case messe insieme, i regolatori hanno congelato le nuove approvazioni fino almeno al 2028, sottolineando come la politica e le autorizzazioni possano bloccare anche i progetti più finanziati.

Operazione più intelligente: AI che gestisce AI

In modo interessante, l’IA stessa viene utilizzata per gestire il carico infrastrutturale. L’apprendimento per rinforzo è stato distribuito in data center di produzione per ottimizzare i sistemi di raffreddamento, producendo risparmi energetici del 14-21% senza compromettere la sicurezza. I gemelli digitali e la modellazione predittiva vengono utilizzati anche per anticipare i punti caldi, pre-raffreddare l’attrezzatura e spostare i carichi di lavoro in ore più fredde o periodi di sovrapproduzione rinnovabile.

Google ha già dimostrato come l’apprendimento automatico possa ridurre le esigenze di raffreddamento dei data center del 40%, e altri operatori stanno adottando sistemi simili. Mentre i costi di potenza e raffreddamento aumentano, questi risparmi operativi stanno diventando un vantaggio competitivo essenziale.

La prospettiva strategica

La traiettoria è chiara. La domanda di IA è prevista raddoppiare il consumo di elettricità dei data center a livello globale entro il 2030, con i carichi di lavoro di IA che rappresentano una quota a singola cifra del consumo di energia globale entro il 2050. Mentre NVIDIA e altri produttori di chip continuano a spingere le prestazioni del silicio in avanti, il frontiera pratica dell’IA sarà definita da quanto velocemente le utility possono costruire nuove infrastrutture di generazione, trasmissione e raffreddamento.

Per le aziende che costruiscono prodotti di IA, ciò significa che le roadmap sono sempre più legate a dove esiste la capacità. Per gli investitori, le mosse più redditizie potrebbero essere le utility, gli sviluppatori di trasmissione e le startup di raffreddamento piuttosto che solo i fornitori di GPU. E per i responsabili delle politiche, il dibattito sull’IA si sta spostando dalle questioni di etica e governance dei dati alle questioni di megawatt, acqua e modernizzazione della rete.

Il futuro dell’IA non sarà deciso solo nei laboratori di ricerca e nelle fonderie di chip, ma anche nelle sottostazioni, nei circuiti di raffreddamento e nelle centrali elettriche. La fisica della scala – non solo la matematica degli algoritmi – è ciò che determinerà la velocità e l’ambito dell’intelligenza artificiale nel decennio a venire.

awatts, acqua e modernizzazione della rete. Il futuro dell’IA non sarà deciso solo nei laboratori di ricerca e nelle fonderie di chip, ma anche nelle sottostazioni, nei circuiti di raffreddamento e nelle centrali elettriche. La fisica della scala – non solo la matematica degli algoritmi – è ciò che determinerà la velocità e l’ambito dell’intelligenza artificiale nel decennio a venire.