DG Matrix e InfraPartners collaborano su una piattaforma di infrastrutture per l’intelligenza artificiale progettata per affrontare i collo di bottiglia energetici

Man mano che la domanda di infrastrutture per l’intelligenza artificiale aumenta in tutto il mondo, una delle principali limitazioni dell’industria non è più l’accesso ai soli GPU, ma la capacità di fornire abbastanza energia e infrastrutture fisiche abbastanza velocemente per supportare i carichi di lavoro dell’intelligenza artificiale di prossima generazione. In questo contesto, DG Matrix e InfraPartners hanno annunciato una partnership finalizzata alla costruzione di una piattaforma integrata volta ad accelerare il deploy di data center pronti per l’intelligenza artificiale e “fabbriche di intelligenza artificiale”.

La collaborazione combina l’architettura di alimentazione Interport 360 di DG Matrix con la piattaforma di data center prefabbricati RapidNode di InfraPartners. Insieme, le aziende affermano di creare un modello di infrastruttura “dalla rete all’armadio” unificato, progettato per ridurre i tempi di deploy e preparare le strutture per le future generazioni di hardware per l’intelligenza artificiale.

La crescita dell’intelligenza artificiale sta aumentando la pressione sulle infrastrutture energetiche

La partnership emerge in un momento in cui i fornitori di servizi cloud, gli operatori di infrastrutture per l’intelligenza artificiale e i provider di servizi cloud stanno affrontando ritardi crescenti legati alla connessione alla rete e ai tempi di costruzione dei data center tradizionali. Secondo il white paper delle aziende, le code di attesa per la connessione alla rete in alcuni mercati possono durare anni, mentre i progetti di data center tradizionali possono richiedere due o tre anni per essere costruiti dopo che l’energia è stata assicurata.

Quella discrepanza sta diventando sempre più importante man mano che i cluster di addestramento dell’intelligenza artificiale continuano a crescere in densità e consumo di energia. Il CEO di NVIDIA (NVDA ), Jensen Huang, ha precedentemente avvertito che i futuri data center diventeranno fondamentalmente limitati dall’energia, con la disponibilità dell’infrastruttura che influenzerà direttamente la generazione di entrate.

Le aziende sostengono che risolvere questa sfida richiede una maggiore integrazione tra l’infrastruttura di calcolo e i sistemi energetici, piuttosto che trattarli come strati separati.

Combinare fabbriche di intelligenza artificiale prefabbricate con alimentazione definita dal software

InfraPartners ha concentrato la sua attività su data center prefabbricati e migliorabili per l’intelligenza artificiale, progettati specificamente per carichi di lavoro intensivi di GPU. Il sistema RapidNode dell’azienda utilizza un design di riferimento standardizzato in cui gran parte dell’infrastruttura è costruita in fabbrica prima del deploy. Secondo il white paper, circa l’80% del sistema è prodotto e integrato fuori sede prima di arrivare nei luoghi di deploy.

L’idea più ampia dietro l’infrastruttura per l’intelligenza artificiale prefabbricata è quella di ridurre i lunghi ritardi e la variabilità di ingegneria associati alle strutture costruite tradizionalmente sul campo. InfraPartners descrive il suo approccio come abilitante per data center scalabili e migliorabili, progettati intorno alle architetture di GPU in evoluzione e alle densità di rack più elevate.

DG Matrix contribuisce con il lato dell’infrastruttura energetica dell’equazione attraverso la sua piattaforma Interport, un’architettura di trasformatore a stato solido progettata per gestire più ingressi e uscite di energia contemporaneamente. L’azienda descrive Interport come un tessuto di alimentazione configurabile via software in grado di integrare fonti di alimentazione AC e DC, batterie, generatori, energia rinnovabile e carichi di lavoro di intelligenza artificiale all’interno di un sistema unificato.

La piattaforma è anche progettata intorno alle architetture emergenti a 800 V CC che molti nel settore si aspettano che i futuri data center per l’intelligenza artificiale adotteranno. Il white paper afferma che Interport 360 è progettato per entrambi i modelli di distribuzione AC e DC, consentendo agli operatori di infrastrutture di transizione verso nuove architetture di alimentazione senza richiedere la sostituzione completa dei sistemi esistenti.

Passare a “fabbriche di intelligenza artificiale” invece di data center tradizionali

Un tema ricorrente in tutto l’annuncio di partnership è l’idea che l’infrastruttura per l’intelligenza artificiale stia evolvendo lontano dai modelli di data center tradizionali verso “fabbriche di intelligenza artificiale” altamente specializzate.

A differenza dei data center aziendali tradizionali, le fabbriche di intelligenza artificiale devono gestire generazioni di GPU in rapida evoluzione, carichi termici più elevati, rack più densi e fluttuazioni nei requisiti di energia create dai carichi di lavoro di addestramento dell’intelligenza artificiale. Il white paper evidenzia la “gestione del carico di picco dell’intelligenza artificiale” come una delle principali capacità della piattaforma, che si riferisce alla forte e altamente variabile domanda di energia generata dai sistemi di addestramento dell’intelligenza artificiale su larga scala.

Le aziende affermano che la loro architettura integrata è progettata per assorbire e stabilizzare queste fluttuazioni di energia, funzionando anche come un partecipante più flessibile alla rete. Ciò include il supporto per sistemi di energia dietro il contatore, funzioni di bilanciamento della rete e software di ottimizzazione dell’energia progettati per gestire sia l’utilizzo del calcolo che dell’energia in tempo reale.

DG Matrix ha sempre più posizionato se stessa intorno a questo più ampio passaggio di infrastrutture. L’azienda ha recentemente raccolto 60 milioni di dollari in finanziamenti di serie A per ampliare il deploy della sua tecnologia di trasformatore a stato solido per le infrastrutture per l’intelligenza artificiale e i mercati di elettrificazione.

La standardizzazione sta diventando una priorità strategica

Uno degli aspetti più notevoli della partnership è l’enfasi sulla standardizzazione e sui modelli di deploy ripetibili. Le aziende descrivono la piattaforma come configurabile via software per più regioni geografiche, classi di tensione, frequenze e requisiti di rete senza richiedere progetti di riqualificazione completi per ogni deploy.

Quell’approccio riflette un più ampio passaggio in atto nell’industria delle infrastrutture per l’intelligenza artificiale. Man mano che la domanda aumenta, gli operatori stanno sempre più cercando modi per industrializzare il deploy piuttosto che affidarsi a progetti altamente personalizzati per ogni struttura.

Il white paper sostiene anche che la migliorabilità sta diventando essenziale man mano che i cicli di hardware dell’intelligenza artificiale si accorciano. Le strutture originariamente progettate per densità di rack molto più basse stanno ora essere spinte verso livelli di energia molto più elevati, costringendo gli operatori a ripensare a quanto a lungo l’infrastruttura possa rimanere vitale senza importanti retrofit.

InfraPartners ha ripetutamente enfatizzato questo concetto pubblicamente, descrivendo l’infrastruttura per l’intelligenza artificiale come qualcosa che deve evolversi continuamente insieme ai cambiamenti nelle esigenze di silicio, raffreddamento e consegna di energia.

Il futuro delle infrastrutture per l’intelligenza artificiale potrebbe dipendere dalla flessibilità energetica

La partnership tra DG Matrix e InfraPartners evidenzia una realtà crescente all’interno dell’industria dell’intelligenza artificiale: scalare l’intelligenza artificiale sta diventando sempre più una sfida energetica e di infrastrutture piuttosto che semplicemente un problema di calcolo.

Man mano che i modelli di intelligenza artificiale continuano a crescere in dimensioni e il deploy si espande a livello globale, i vantaggi competitivi futuri potrebbero dipendere da quanto rapidamente gli operatori possono assicurare l’energia, deployare l’infrastruttura e adattare le strutture alle esigenze di hardware in rapida evoluzione.

Le aziende ritengono che i sistemi integrati che combinano fabbriche di intelligenza artificiale modulari, architetture di alimentazione definite dal software e gestione dell’energia flessibile potrebbero diventare una parte fondamentale delle strategie di deploy dell’intelligenza artificiale di prossima generazione. Se quel modello diventerà mainstream resta da vedere, ma la pressione sui servizi pubblici, le reti e i tempi di costruzione tradizionali sta già costringendo l’industria a ripensare come vengono costruite le infrastrutture per l’intelligenza artificiale fin dall’inizio.