L’aumento della fame di potenza dell’AI: i data center sono pronti a tenere il passo?

Mentre l’intelligenza artificiale (AI) procede a passo spedito, le sue richieste energetiche stanno mettendo a dura prova i data center, portandoli al limite della rottura. Le tecnologie AI di prossima generazione come l’intelligenza artificiale generativa (genAI) non stanno solo trasformando le industrie, ma il loro consumo energetico sta influenzando quasi ogni componente del server, dalle CPU e dalla memoria agli acceleratori e alle reti.

Le applicazioni genAI, tra cui Copilot di Microsoft e ChatGPT di OpenAI, richiedono più energia che mai. Entro il 2027, l’addestramento e la manutenzione di questi sistemi AI potrebbero consumare abbastanza elettricità per alimentare un piccolo paese per un intero anno. E la tendenza non si sta rallentando: negli ultimi dieci anni, le richieste di potenza per componenti come CPU, memoria e reti sono destinate a crescere del 160% entro il 2030, secondo un rapporto di Goldman Sachs.

L’utilizzo di grandi modelli linguistici consuma anche energia. Ad esempio, una query ChatGPT consuma circa dieci volte più energia di una tradizionale ricerca Google. Considerato il consumo energetico massiccio dell’AI, l’industria può gestire i suoi rapidi progressi in modo sostenibile, o contribuirà ulteriormente al consumo energetico globale? La recente ricerca di McKinsey mostra che circa il 70% della domanda in aumento nel mercato dei data center è rivolto a strutture in grado di gestire carichi di lavoro AI avanzati. Questo cambiamento sta fondamentalmente modificando il modo in cui vengono costruiti e gestiti i data center, poiché si adattano alle esigenze uniche di questi compiti genAI ad alta potenza.

“I data center tradizionali spesso operano con attrezzature obsolete e intensive in termini di energia e capacità fisse che lottano per adattarsi ai carichi di lavoro fluttuanti, portando a un significativo spreco di energia,” Mark Rydon, Chief Strategy Officer e co-fondatore della piattaforma di calcolo distribuito Aethir, mi ha detto. “Le operazioni centralizzate spesso creano uno squilibrio tra la disponibilità delle risorse e le esigenze di consumo, portando l’industria a un punto critico in cui i progressi potrebbero rischiare di compromettere gli obiettivi ambientali mentre le richieste guidate dall’AI crescono.”

I leader del settore stanno ora affrontando la sfida a viso aperto, investendo in progetti più verdi e architetture efficienti in termini di energia per i data center. Gli sforzi vanno dall’adozione di fonti di energia rinnovabile alla creazione di sistemi di raffreddamento più efficienti che possano compensare il calore generato dai carichi di lavoro genAI.

Rivoluzionare i data center per un futuro più verde

Lenovo ha recentemente introdotto il ThinkSystem N1380 Neptune, un grande passo avanti nella tecnologia di raffreddamento a liquido per i data center. L’azienda afferma che l’innovazione sta già consentendo alle organizzazioni di distribuire calcoli ad alta potenza per carichi di lavoro genAI con un consumo energetico significativamente inferiore – fino al 40% in meno di potenza nei data center. N1380 Neptune, sfrutta l’hardware più recente di NVIDIA, tra cui le GPU Blackwell e GB200, consentendo la gestione di modelli AI da un trilione di parametri in un impianto compatto. Lenovo ha dichiarato di voler aprire la strada a data center che possano funzionare con rack del server da 100KW+ senza la necessità di condizionamento dell’aria dedicato.

“Abbiamo identificato una richiesta significativa da parte dei nostri clienti attuali: i data center consumano più potenza quando gestiscono carichi di lavoro AI a causa di architetture di raffreddamento obsolete e strutture tradizionali”, Robert Daigle, Global Director di AI di Lenovo, mi ha detto. “Per capire meglio, abbiamo collaborato con un cliente di calcolo ad alte prestazioni (HPC) per analizzare il suo consumo di potenza, il che ci ha portato alla conclusione che potevamo ridurre il consumo energetico del 40%.” Ha aggiunto che l’azienda ha preso in considerazione fattori come la potenza del ventilatore e il consumo energetico delle unità di raffreddamento, confrontandoli con i sistemi standard disponibili tramite il servizio di valutazione del data center di Lenovo, per sviluppare la nuova architettura del data center in partnership con Nvidia.

La società di consulenza tecnologica del Regno Unito AVEVA ha dichiarato di utilizzare l’analisi predittiva per identificare problemi con i compressori dei data center, motori, attrezzature HVAC, maniglie dell’aria e altro.

“Abbiamo scoperto che è l’addestramento pre-trattamento dell’intelligenza artificiale generativa che consuma una quantità enorme di potenza”, Jim Chappell, Head of AI e Advanced Analytics di AVEVA, mi ha detto. “Attraverso i nostri sistemi AI-driven predittivi, miriamo a trovare problemi ben prima di qualsiasi sistema SCADA o di controllo, consentendo agli operatori dei data center di risolvere i problemi di attrezzature prima che diventino problemi importanti. Inoltre, abbiamo un assistente Vision AI che si integra nativamente con i nostri sistemi di controllo per aiutare a trovare altri tipi di anomalie, tra cui hotspot di temperatura quando utilizzato con una telecamera a immagine termica.”

Nel frattempo, il calcolo decentralizzato per l’addestramento e lo sviluppo dell’AI attraverso le GPU sul cloud sta emergendo come un’alternativa. Il Rydon di Aethir ha spiegato che distribuendo i compiti computazionali su una rete più ampia e adattabile, l’uso dell’energia può essere ottimizzato, allineando la domanda di risorse con la disponibilità, portando a riduzioni sostanziali degli sprechi fin dall’inizio.

“Invece di affidarsi a grandi data center centralizzati, la nostra infrastruttura ‘Edge’ disperde i compiti computazionali ai nodi più vicini alla fonte dei dati, riducendo drasticamente il carico energetico per il trasferimento dei dati e riducendo la latenza”, ha detto Rydon. “La rete Aethir Edge minimizza la necessità di sistemi di raffreddamento ad alta potenza costanti, poiché i carichi di lavoro sono distribuiti in vari ambienti piuttosto che concentrati in un’unica posizione, aiutando a evitare i sistemi di raffreddamento energeticamente intensivi tipici dei data center centralizzati.”

Allo stesso modo, aziende come Amazon e Google stanno sperimentando l’uso di fonti di energia rinnovabile per gestire le esigenze energetiche in aumento nei loro data center. Microsoft, ad esempio, sta investendo pesantemente in fonti di energia rinnovabile e tecnologie di efficienza energetica per ridurre il consumo energetico dei suoi data center. Google ha anche preso misure per passare a un’energia a zero emissioni di carbonio e per esplorare sistemi di raffreddamento che minimizzano l’uso di energia nei data center. “L’energia nucleare è probabilmente il percorso più veloce per i data center a zero emissioni di carbonio. I principali fornitori di data center come Microsoft, Amazon e Google stanno ora investendo pesantemente in questo tipo di generazione di energia per il futuro. Con i reattori modulari piccoli (SMR), la flessibilità e il tempo di produzione rendono questa opzione ancora più fattibile per raggiungere lo zero netto”, ha aggiunto Chappell di AVEVA.

L’AI e la sostenibilità dei data center possono coesistere?

Ugur Tigli, CTO della piattaforma di infrastruttura AI MinIO, afferma che mentre speriamo in un futuro in cui l’AI possa avanzare senza un grande aumento del consumo energetico, ciò non è realistico nel breve termine. “Gli impatti a lungo termine sono più difficili da prevedere”, mi ha detto, “ma vedremo un cambiamento nel mercato del lavoro e l’AI aiuterà a migliorare il consumo energetico in generale.” Tigli ritiene che mentre l’efficienza energetica diventa una priorità del mercato, vedremo una crescita del calcolo insieme a una riduzione dell’uso dell’energia in altri settori, soprattutto mentre diventano più efficienti.

Ha anche sottolineato che c’è un crescente interesse tra i consumatori per soluzioni AI più verdi. “Immagina un’applicazione AI che funziona al 90% di efficienza ma utilizza solo la metà della potenza: è il tipo di innovazione che potrebbe realmente decollare”, ha aggiunto. È chiaro che il futuro dell’AI non riguarda solo l’innovazione, ma anche la sostenibilità dei data center. Che si tratti di sviluppare hardware più efficienti o modi più intelligenti per utilizzare le risorse, come gestiamo il consumo energetico dell’AI influenzerà notevolmente la progettazione e l’operazione dei data center.

Rydon ha sottolineato l’importanza delle iniziative a livello di settore che si concentrano su progetti di data center sostenibili, carichi di lavoro AI efficienti in termini di energia e condivisione di risorse aperte. “Questi sono passi cruciali verso operazioni più verdi”, ha detto. “Le aziende che utilizzano l’AI dovrebbero collaborare con le società tecnologiche per creare soluzioni che riducono l’impatto ambientale. Lavorando insieme, possiamo orientare l’AI verso un futuro più sostenibile.”