Chris Miglino, amministratore delegato di Axe Compute – Serie di interviste

Chris Miglino è amministratore delegato di Axe Compute e vanta oltre due decenni di esperienza nella creazione, crescita e finanziamento di aziende tecnologiche. Ha cofondato Social Reality e ha collaborato con DNA Fund, unendo una formazione imprenditoriale all’esperienza nei mercati dei capitali e negli investimenti in infrastrutture. In Axe Compute si occupa delle sfide operative e finanziarie legate all’espansione della capacità di calcolo IA dedicata per i clienti aziendali.

Axe Compute fornisce infrastrutture GPU dedicate, bare metal, per i carichi di lavoro IA aziendali. La sua offerta Axe Access consente di accedere alla capacità GPU disponibile, mentre Axe Build sviluppa infrastrutture in base alle esigenze a lungo termine dei clienti. In questa intervista, Miglino parla dell’economia delle GPU, dei vincoli legati all’energia, delle prestazioni dei cluster, delle partnership per la distribuzione e di come il passaggio all’inferenza e agli agenti IA potrebbe ridefinire la domanda di infrastrutture aziendali.

La sua carriera abbraccia oltre due decenni di imprenditorialità: dalla cofondazione di Social Reality alla guida di DNA Fund, fino all’attuale ruolo di amministratore delegato di Axe Compute. Che cosa l’ha attratta inizialmente nel mercato delle infrastrutture per l’IA e quale opportunità ha individuato che i tradizionali fornitori di servizi cloud non stavano affrontando adeguatamente?

L’opportunità che ho intravisto era semplice: l’IA avanza più rapidamente delle infrastrutture create per sostenerla. Da oltre due decenni creo, faccio crescere e finanzio aziende, e ho individuato le maggiori opportunità proprio in questo divario. Dalla cofondazione di Social Reality al mio lavoro presso DNA Fund, mi hanno sempre attratto i problemi fondamentali per i quali esiste un percorso chiaro che porta dalle nuove tecnologie a un reale valore commerciale. Le aziende investivano miliardi nell’IA, eppure molte non riuscivano a ottenere capacità affidabile a un costo commercialmente sostenibile. I tradizionali fornitori di servizi cloud hanno costruito imprese straordinarie, ma le loro infrastrutture sono state progettate per ambienti flessibili e condivisi, non per carichi di lavoro IA intensivi e continuativi, operativi 24 ore su 24. Ho fondato aziende anch’io, quindi so di cosa hanno bisogno: costi prevedibili, accesso affidabile e margini per crescere. Ho visto l’opportunità di creare infrastrutture dedicate, pensate per le reali esigenze dell’IA aziendale, che dessero alle aziende il controllo delle risorse di calcolo senza costringerle a diventare operatori di data center. È per questo che sono in Axe Compute. Le aziende che realizzano le infrastrutture alla base dell’IA determineranno fin dove e quanto rapidamente potrà espandersi questa tecnologia.

Con l’adozione dell’IA da parte delle aziende in rapida accelerazione, l’accesso a risorse di calcolo GPU ad alte prestazioni è diventato un fattore fondamentale. Quali sono le idee sbagliate più diffuse tra le aziende riguardo alle proprie esigenze di calcolo e come dovrebbero valutare le infrastrutture GPU dedicate rispetto ai tradizionali servizi cloud?

L’idea sbagliata più diffusa è che un maggior numero di GPU significhi automaticamente migliori prestazioni dell’IA. L’architettura che le circonda, la continuità dell’accesso e i costi di gestione contano altrettanto. Un altro errore è presumere che il modello cloud pensato per il software aziendale sia adatto anche all’IA. Il cloud pubblico è ottimo per la sperimentazione, per una domanda imprevedibile e per i carichi di lavoro che aumentano o diminuiscono rapidamente. Ma quando si passa alla produzione e si eseguono carichi di lavoro intensivi senza interruzione, i costi cambiano. Non si paga più per risorse di calcolo usate occasionalmente: si finanzia un’attività industriale continua con un modello tariffario basato sul consumo. Suggerisco alle aziende di valutare il tasso di utilizzo, la durata dei carichi di lavoro, le esigenze di rete e il costo totale nell’arco di diversi anni, anziché limitarsi ai prezzi orari delle GPU. Le infrastrutture dedicate offrono costi prevedibili e controllo per i carichi di lavoro continuativi, ma la scelta giusta dipende da come si intende effettivamente utilizzare l’IA.

Axe Compute offre due modelli distinti, Axe Access e Axe Build, che mettono a disposizione sia GPU immediatamente disponibili sia infrastrutture IA progettate su misura. Può spiegare come funzionano questi modelli, a quali tipi di clienti si rivolgono e come le organizzazioni possono stabilire quale sia più adatto ai propri carichi di lavoro IA?

Abbiamo creato Axe Access e Axe Build perché le aziende non si trovano tutte nella stessa fase e non dovrebbero essere costrette ad adottare lo stesso modello infrastrutturale. Axe Access si rivolge alle organizzazioni che hanno bisogno subito di capacità GPU dedicata, che stiano ampliando un’attività esistente, lanciando un nuovo modello o superando i limiti del fornitore attuale. Axe Build è pensato per i clienti che necessitano di infrastrutture dedicate progettate in funzione delle loro esigenze a lungo termine, dalla capacità all’architettura, fino alla gestione operativa. La distinzione dipende dai tempi, dalla scala e dal livello di personalizzazione. Se occorre eseguire subito i carichi di lavoro, si parte dalla capacità disponibile. Se si pianifica un’attività IA pluriennale, si costruisce l’infrastruttura necessaria. Per me è importante offrire ai clienti un percorso concreto dalla domanda alla capacità operativa, perché la tecnologia ha valore solo quando la si può mettere al lavoro.

Axe Compute ha annunciato progetti di infrastrutture IA con contratti per oltre 3,45 miliardi di dollari, a conferma della forte domanda di capacità di calcolo dedicata. Quali sono state le maggiori difficoltà nel trasformare questi impegni in cluster GPU operativi e quali insegnamenti ha tratto dall’espansione delle infrastrutture a questo ritmo?

La lezione più importante è che assicurarsi la domanda e realizzare le infrastrutture sono due discipline molto diverse, ed è necessario eccellere in entrambe. Con oltre 3,45 miliardi di dollari di progetti contrattualizzati, ogni fase è importante: strutture, energia, approvvigionamento, finanziamento, rete e lavoro tecnico necessario per rendere operativi i cluster. Ognuna segue tempistiche proprie e un ritardo può bloccare l’intera implementazione. Il fattore più importante è l’energia. Si possono avere impegni, capitali e attrezzature pronti, ma senza energia niente genera un ritorno. Abbiamo imparato a crescere con disciplina nella pianificazione delle fasi dei progetti, nella scelta dei partner e nell’allocazione del capitale. E non dimentichiamo mai che il valore dei progetti contrattualizzati non equivale a quello delle infrastrutture già realizzate e capaci di generare ricavi. A vincere saranno le aziende che trasformano con costanza gli impegni in capacità operativa affidabile. L’esecuzione è il modello di business.

La disponibilità di GPU spesso domina le discussioni sulle infrastrutture per l’IA, ma anche l’elettricità, il raffreddamento, la rete e la capacità dei data center possono rappresentare vincoli altrettanto rilevanti. Quale di questi colli di bottiglia ritiene costituisca la più grande minaccia a lungo termine per la scalabilità dell’IA, e come sta affrontando Axe Compute queste sfide?

L’elettricità. Quasi ogni altra componente delle infrastrutture per l’IA può essere ampliata o aggiornata più rapidamente dei sistemi energetici da cui dipende. La tecnologia delle GPU avanza rapidamente, i capitali possono essere investiti e le strutture costruite, ma le linee di trasmissione, i collegamenti alla rete elettrica e la produzione su larga scala seguono tempistiche che spesso superano di molto i cicli di pianificazione delle aziende di IA. Chiediamo una rete elettrica progettata per assorbire, sulla base di una domanda prevedibile, enormi nuove concentrazioni di potenza di calcolo: non è un problema che si risolve spendendo di più in hardware. In Axe Compute allineiamo lo sviluppo delle infrastrutture alla disponibilità effettiva di energia e collaboriamo con partner che conoscono le implementazioni di IA ad alta densità. Il raffreddamento e la rete sono fondamentali, soprattutto con l’aumento della densità dei rack, ma saranno la disponibilità affidabile e il costo accessibile dell’energia a determinare dove verranno costruite le infrastrutture per l’IA e quali operatori potranno crescere in modo redditizio.

La realizzazione di un cluster di IA ad alte prestazioni richiede molto più che assemblare migliaia di GPU. In che modo fattori come l’architettura di rete, la velocità di trasferimento dei dati dello storage, l’orchestrazione dei carichi di lavoro e l’utilizzo delle GPU influiscono sulle prestazioni reali? E in quali aspetti le aziende tendono più spesso a sottovalutare la complessità tecnica?

Le GPU attirano tutta l’attenzione, ma le loro prestazioni dipendono da tutto ciò che le circonda: è qui che le aziende sottovalutano la complessità. Si possono installare processori estremamente potenti, ma se la rete non riesce a trasferire i dati in modo efficiente tra loro o lo storage non riesce a fornirli abbastanza rapidamente, si paga per una capacità che non viene utilizzata. Questo aspetto è particolarmente importante nell’addestramento su larga scala, dove la comunicazione tra GPU può incidere notevolmente sulla durata dell’addestramento di un modello. L’orchestrazione aggiunge un ulteriore livello di complessità, perché occorre gestire la pianificazione, l’allocazione delle risorse, i guasti e le variazioni della domanda senza lasciare capacità inutilizzata. Valuto le prestazioni in base ai risultati effettivamente ottenuti, non alle specifiche teoriche, perché un cluster utilizzato in modo efficiente può offrire un’economia molto più vantaggiosa di un cluster più grande che funziona in modo inefficiente. Le infrastrutture per l’IA richiedono un’ottimizzazione continua di hardware, software e operazioni. Non si tratta di un acquisto di attrezzature una tantum.

Axe Compute ha recentemente annunciato una partnership strategica con Penguin Solutions per accelerare la realizzazione di infrastrutture per l’IA su larga scala. Quali capacità tecniche e operative specifiche introduce questa partnership, e in che modo contribuirà a ridurre i tempi di implementazione mantenendo affidabilità e prestazioni?

Penguin apporta tre elementi: servizi di implementazione e operativi, guidati da esperti, presso siti designati per cluster GPU; il suo software ClusterWareAI per gestire le operazioni dei cluster su larga scala; e la copertura 24×7 di un centro operativo di rete, fornita da un team di Penguin che lavora al fianco del nostro. È importante perché la prossima fase di crescita delle infrastrutture per l’IA dipenderà dall’efficienza con cui le aziende sapranno implementare e gestire ambienti complessi su larga scala. Implementare un cluster di IA significa integrare calcolo, rete, storage e sistemi di gestione in un ambiente capace di funzionare in modo affidabile anche con carichi di lavoro impegnativi. Gli specialisti di Penguin aumentano la nostra capacità di realizzazione: possiamo così procedere più rapidamente, gestire più progetti e ridurre i rischi di esecuzione. L’obiettivo è rendere l’implementazione più ripetibile e prevedibile senza compromettere le prestazioni, perché accelerare un progetto crea valore solo se, una volta entrata in funzione, l’infrastruttura opera in modo affidabile.

Con l’evoluzione dell’IA oltre l’addestramento di modelli su larga scala, verso l’inferenza, gli agenti autonomi e le applicazioni in tempo reale, come prevede che cambieranno i requisiti di calcolo delle aziende? Questa transizione modificherà radicalmente il modo in cui i cluster GPU vengono progettati, implementati e distribuiti geograficamente?

L’inferenza finirà per rappresentare una parte enorme del mercato commerciale delle infrastrutture per l’IA, soprattutto man mano che le aziende passeranno dalla costruzione di modelli all’integrazione dell’IA nei prodotti, nelle attività operative e nei servizi rivolti ai clienti. L’addestramento avviene in fasi concentrate. L’inferenza, invece, riguarda la disponibilità, la latenza, la capacità di elaborazione e la gestione continua di milioni di richieste. Gli agenti aggiungono un ulteriore livello: eseguono più attività e interrogano i modelli ripetutamente nel corso di un flusso di lavoro. Ogni richiesta può essere di entità ridotta, ma la domanda complessiva cresce rapidamente. Mi aspetto che i grandi cluster centralizzati continuino a gestire i carichi di lavoro più impegnativi, mentre una capacità distribuita geograficamente maggiore servirà le applicazioni in cui contano i tempi di risposta e la residenza dei dati. Le aziende diventeranno anche più abili nell’abbinare i carichi di lavoro all’hardware più adatto, invece di presumere che tutto richieda la GPU più potente. Ciò che mi entusiasma è che la domanda diventerà molto più diversificata, a vantaggio dei fornitori in grado di offrire la capacità giusta, nei luoghi giusti e alle condizioni economiche più adatte.

La realizzazione di infrastrutture per l’IA richiede ingenti investimenti iniziali, mentre la tecnologia delle GPU continua a evolversi rapidamente. In che modo Axe Compute affronta gli aspetti economici del finanziamento e della gestione di cluster GPU dedicati e come possono le aziende evitare di ritrovarsi vincolate a hardware costoso che potrebbe diventare obsoleto prima della fine della sua vita utile?

Si parte dalla domanda dei clienti, non dall’hardware. Acquistare apparecchiature costose e sperare che poi vengano utilizzate è un ragionamento capovolto. Questo non è un settore basato sul software: si ha a che fare con beni fisici ingombranti, tempi di realizzazione lunghi e tecnologie che migliorano notevolmente in poco tempo. In Axe Compute, il nostro approccio si fonda su una domanda garantita da contratti, su un’implementazione disciplinata e su infrastrutture progettate per i clienti che necessitano di capacità continuativa. L’obsolescenza è un fenomeno reale, ma una GPU che non è più l’ultima arrivata non è priva di valore commerciale. Non tutte le applicazioni di inferenza o i sistemi di IA aziendali necessitano dell’hardware di ultima generazione, e una gestione intelligente dei carichi di lavoro può prolungare la vita produttiva delle infrastrutture esistenti. I clienti dovrebbero valutare gli aspetti economici considerando l’intera durata del contratto: utilizzo, esigenze prestazionali e flessibilità con l’evolversi della tecnologia. L’obiettivo è assicurarsi che la vita economica utile dell’infrastruttura giustifichi il capitale investito, non costruire un modello di business che dipenda dal mantenimento per sempre del valore iniziale dell’hardware.

Guardando ai prossimi tre-cinque anni, dove vede le maggiori opportunità di innovazione e investimento nelle infrastrutture per l’IA? Prevede che il mercato resti concentrato tra i fornitori di servizi cloud su vasta scala e i grandi operatori di GPU, oppure le aziende specializzate nelle infrastrutture potrebbero trasformare radicalmente il modo in cui le imprese accedono alla potenza di calcolo per l’IA?

Un mercato così ampio e complesso non può essere servito in modo efficiente da pochi fornitori che adottano tutti lo stesso modello infrastrutturale. I grandi fornitori di servizi cloud su vasta scala continueranno a essere estremamente importanti, ma sono molto ottimista riguardo agli operatori specializzati nei prossimi tre-cinque anni. Siamo ancora agli inizi nel trasformare gli investimenti nell’IA nelle infrastrutture su cui le aziende fanno affidamento ogni giorno. Le imprese hanno esigenze diverse in termini di prestazioni, sovranità dei dati, costi, tempistiche e ubicazione geografica: questo crea opportunità concrete per operatori come noi. Le opportunità di investimento che trovo più interessanti riguardano le infrastrutture energetiche, sistemi di raffreddamento più efficienti, reti avanzate e software che migliora l’utilizzo delle GPU, perché incidono direttamente sugli aspetti economici dell’IA. Anche il finanziamento evolverà, man mano che gli investitori acquisiranno maggiore familiarità con questi beni e con i flussi di cassa derivanti dalla capacità contrattualizzata. Per Axe Compute, l’opportunità consiste nel contribuire a costruire questo mercato rendendo la capacità dedicata all’IA più accessibile, prevedibile e scalabile per le organizzazioni che intendono seriamente portare l’IA in produzione. È questo che intendiamo con potenza di calcolo senza compromessi.

Grazie per l’ottima intervista. I lettori che desiderano approfondire il tema della capacità GPU dedicata e delle infrastrutture di IA aziendale possono visitare Axe Compute.