I Data Center di Intelligenza Artificiale Hanno Bisogno di Più di una Maggiore Refrigerazione: Hanno Bisogno di un’Ingegneria più Veloce

L’intelligenza artificiale sta trasformando il lavoro digitale, ma il suo impatto è sempre più fisico. L’intelligenza artificiale su larga scala richiede molto più potere di prima. E i data center che ospitano questi server di intelligenza artificiale stanno faticando a tenere il passo con la domanda. In realtà, un rapporto di Deloitte stima che entro il 2035, la domanda di potenza dei data center di intelligenza artificiale solo negli Stati Uniti potrebbe crescere di più di trenta volte.

Tuttavia, il problema non è solo una questione di consumo di energia. I data center che ospitano questi server di intelligenza artificiale devono tenere conto del livello di calore che la tecnologia crea. I cluster di GPU moderni possono raggiungere 50 kW per rack e oltre. Questo è un aumento di dieci volte rispetto ai server di calcolo standard dell’ultimo decennio.

I sistemi di raffreddamento che sono stati a lungo in uso per i data center per gestire in modo sufficiente i carichi di lavoro IT stanno essere superati da queste nuove emissioni di calore. L’infrastruttura semplicemente non può tenere il passo, lasciando coloro che sono incaricati di progettare i sistemi di raffreddamento dei data center con una nuova sfida. Gli ingegneri responsabili della progettazione dell’infrastruttura pronta per l’intelligenza artificiale stanno sempre più scoprendo che i flussi di lavoro di ingegneria tradizionali non possono tenere il passo con la scala e la velocità della distribuzione dell’intelligenza artificiale.

Forse paradossalmente, l’intelligenza artificiale sta aumentando la domanda di capacità dei data center e sta trasformando il processo di ingegneria utilizzato per costruire quella capacità. Gli stessi progressi nell’intelligenza artificiale che stanno guidando requisiti di infrastrutture senza precedenti stanno anche iniziando ad accelerare il modo in cui gli ingegneri modellano, validano e ottimizzano i sistemi fisici che supportano quei carichi di lavoro.

In effetti, l’intelligenza artificiale sta diventando parte del processo utilizzato per progettare l’infrastruttura che esegue l’intelligenza artificiale.

In questo senso, molti team di ingegneria stanno adottando flussi di lavoro di simulazione nativi cloud e accelerati dall’intelligenza artificiale che consentono loro di valutare le prestazioni termiche, le strategie di raffreddamento e i compromessi infrastrutturali prima dell’inizio della costruzione.

Quando si tratta dell’infrastruttura dei data center di oggi, le poste in gioco significano che ogni passo falso può essere devastante. Dimostrare le prestazioni prima della costruzione è diventata l’imperativo per il successo a lungo termine, non la dipendenza da ipotesi, regole empiriche o convalida tardiva.

L’Infrastruttura di Raffreddamento Tradizionale Sotto Sforzo

Purtroppo per i team di ingegneria, i carichi di lavoro dell’intelligenza artificiale sono fondamentalmente diversi dal calcolo basato su cloud tradizionale. Non c’è un flusso e riflusso con l’intelligenza artificiale, le richieste di rete, l’output di calore e i requisiti di potenza sono costanti.

Quel cambiamento sta in parte esponendo un fallimento chiave di molti data center. Molti sono stati costruiti sotto l’ipotesi che una tale domanda sostenuta non sarebbe stata necessaria. E poiché questi sistemi di raffreddamento sono spesso molto energivori, sta diventando rapidamente insostenibile “sovraraffreddare” e supporre che coprirà le esigenze di un data center. Questo approccio e la priorità della disponibilità causeranno costi e consumo di energia che aumenteranno rapidamente fuori controllo.

Alla fine della giornata, l’incrocio in cui si trovano molti data center non è una questione di “più calore”. Il rischio definito che la crescita dell’intelligenza artificiale porta è un margine di errore molto più stretto.

Per gli sviluppatori di data center, ogni ritardo nel processo di convalida può influire sugli impegni dei clienti, sulla pianificazione della capacità o sui costi energetici.

Storicamente, i team di ingegneria potevano compensare l’incertezza attraverso la sovrapprovisione, le ipotesi di progettazione conservative e la convalida tardiva. L’infrastruttura dell’intelligenza artificiale cambia quell’equazione. Il ritmo di distribuzione, l’investimento di capitale richiesto e l’aumento della densità dei rack lasciano molto meno spazio per l’ingegneria basata sulla prova e l’errore. Le decisioni che potevano essere convalidate in seguito devono essere dimostrate molto prima nel processo di progettazione.

La Nuova Realtà: Dimostrare le Prestazioni Termiche Prima di Iniziare la Costruzione

Con il margine di errore che si restringe, i team di ingegneria stanno spostando l’analisi termica più presto nel processo di progettazione, mentre le modifiche sono ancora economiche e la progettazione è ancora flessibile. Piuttosto che aspettare fino alla commissione per scoprire se i modelli di flusso d’aria, i layout dei rack, le strategie di contenimento o la posizione dell’attrezzatura di raffreddamento sono sufficienti, possono modellare il flusso d’aria e il trasferimento di calore prima dell’inizio della costruzione.

Questo consente agli ingegneri di identificare i punti caldi, testare le strategie di raffreddamento e confrontare le opzioni di progettazione in condizioni operative realistiche. Un team può valutare se l’aria fredda raggiunge i rack ad alta densità, se il calore di scarico si ricicla nelle prese dell’attrezzatura e se la capacità di raffreddamento viene utilizzata in modo efficiente.

Questo è dove l’architettura della piattaforma conta. Per i team che lavorano sotto una forte pressione, la simulazione non può rimanere confinata in un piccolo gruppo di specialisti con accesso a risorse HPC dedicate. Utilizzare una piattaforma di simulazione nativa cloud rende l’analisi ad alta fedeltà accessibile a tutti i team di ingegneria, non solo a un piccolo gruppo di individui. Ciò consente a quei team di eseguire studi, confrontare opzioni di progettazione e collaborare senza costruire o mantenere la propria infrastruttura di calcolo.

Con l’intelligenza artificiale integrata in quel flusso di lavoro, il ruolo stesso della simulazione inizia a cambiare. Storicamente, la simulazione è stata limitata dall’esperienza, dal tempo e dalle risorse computazionali. Eseguire studi ad alta fedeltà spesso richiedeva conoscenze specialistiche, hardware dedicato e lunghi cicli di iterazione.

L’intelligenza artificiale per l’ingegneria, utilizzando agenti quasi autonomi che automatizzano e accelerano i flussi di lavoro di progettazione, simulazione e analisi dell’ingegneria, aiuta a ridurre quelle barriere accelerando la configurazione del modello, portando a galla informazioni rilevanti e consentendo ai team di valutare più opzioni di progettazione in meno tempo. Piuttosto che riservare la simulazione per un passaggio di convalida finale, i team di ingegneria possono utilizzare flussi di lavoro accelerati dall’intelligenza artificiale per esplorare alternative in modo continuo durante l’intero processo di progettazione.

Il risultato non è solo una simulazione più veloce. È un’innovazione più veloce.

Quindi, cosa significa tutto ciò nella realtà per i team di ingegneria? Considera un’azienda che produce sistemi di raffreddamento e ventilazione per grandi strutture necessarie di un modo più veloce per testare nuove progettazioni di attrezzature. Di solito, queste aziende devono costruire prototipi fisici, portare specialisti esterni e trascorrere diverse settimane per verificare se l’aria si muove e si mescola correttamente all’interno del sistema.

Ma quando questa azienda decide di utilizzare il software di simulazione per creare una versione virtuale dell’impostazione di test, l’equazione cambia. Questo approccio consente agli ingegneri di testare le prestazioni dell’aria e della temperatura sul computer prima di costruire il prodotto reale.

E i risultati spesso producono un impatto reale. La fase di pre-test può essere ridotta a solo 2-3 e il tempo di ingegneria può scendere a 40 ore invece di 85 in flussi di lavoro più tradizionali.

Ma il valore qui è anche molto più grande del semplice risparmio di tempo. Il vero valore risiede nella capacità del team di ingegneria di porre più domande e esplorare possibilità in anticipo. Cosa succede se la densità dei rack aumenta? Cosa succede se i percorsi dell’aria cambiano? Cosa succede se le ipotesi di ridondanza falliscono?

Consentire un livello di esplorazione come questo è ciò che eleva la simulazione da uno strumento analitico a un componente cruciale della strategia di progettazione dell’infrastruttura.

L’Infrastruttura di Intelligenza Artificiale Richiede un’Ingegneria Accelerata dall’Intelligenza Artificiale

La prossima fase dell’infrastruttura di intelligenza artificiale non sarà definita solo dalle dimensioni della struttura, dalla densità dei rack o dalla capacità di raffreddamento. Sarà anche definita da quanto velocemente i team di ingegneria possono dimostrare che quei sistemi funzioneranno prima che vengano costruiti.

È lì che emergerà il prossimo vantaggio competitivo dell’industria. Gli sviluppatori di data center che portano la simulazione più presto nel processo di progettazione, la rendono accessibile a tutti i team di ingegneria e la abbinano a flussi di lavoro accelerati dall’intelligenza artificiale saranno meglio posizionati per prendere decisioni con fiducia prima che il capitale venga impegnato e la costruzione inizi.

Man mano che l’intelligenza artificiale continua a ridisegnare le esigenze fisiche imposte ai data center, ridisegnerà anche il modo in cui quelle strutture vengono progettate. Le organizzazioni che guideranno questa prossima era non reagiranno semplicemente a carichi di calore più elevati o a vincoli energetici più stretti. Costruiranno processi di progettazione in grado di anticiparli.