Chris Miglino, director general al Axe Compute – seria de interviuri

Chris Miglino este directorul general al Axe Compute și are peste două decenii de experiență în construirea și dezvoltarea companiilor de tehnologie, precum și în investițiile în acestea. A cofondat Social Reality și a colaborat cu DNA Fund, îmbinând experiența antreprenorială cu cea din piețele de capital și investițiile în infrastructură. La Axe Compute, se ocupă de provocările operaționale și financiare ale extinderii capacității dedicate de calcul pentru IA destinată clienților corporativi.

Axe Compute furnizează infrastructură GPU dedicată, pe servere fizice, pentru sarcini de lucru de IA ale companiilor. Oferta Axe Access asigură acces la capacitatea GPU disponibilă, în timp ce Axe Build dezvoltă infrastructură în funcție de cerințele clienților pe termen lung. În acest interviu, Miglino discută despre economia utilizării GPU-urilor, constrângerile legate de energie, performanța clusterelor, parteneriatele pentru implementare și felul în care orientarea către inferență și agenți IA ar putea remodela cererea de infrastructură din partea companiilor.

Cariera dumneavoastră, de peste două decenii, este marcată de antreprenoriat: de la cofondarea Social Reality la conducerea DNA Fund și, în prezent, la funcția de director general al Axe Compute. Ce v-a atras inițial către piața infrastructurii pentru IA și ce oportunitate ați identificat, pe care furnizorii tradiționali de servicii cloud nu o abordau în mod adecvat?

Oportunitatea pe care am observat-o era simplă: IA evoluează mai repede decât infrastructura creată pentru a o susține. De peste două decenii construiesc și dezvolt companii și investesc în ele, iar tocmai în acest decalaj am găsit cele mai mari oportunități. De la cofondarea Social Reality până la activitatea mea la DNA Fund, m-au atras întotdeauna problemele fundamentale pentru care există o cale clară de la o tehnologie nouă la o valoare comercială reală. Companiile investeau miliarde în IA, însă multe nu puteau obține capacitate fiabilă la un cost justificat din punct de vedere comercial. Furnizorii tradiționali de servicii cloud au construit afaceri extraordinare, dar infrastructura lor a fost concepută pentru medii flexibile, partajate, nu pentru sarcini de lucru intensive, cu un volum mare de calcule, care rulează continuu, zi și noapte. Am construit și eu companii, așa că știu de ce au nevoie afacerile: costuri previzibile, acces fiabil și posibilitatea de a se extinde. Am văzut oportunitatea de a construi infrastructură dedicată, adaptată cerințelor reale ale utilizării IA în companii, oferindu-le acestora control asupra resurselor de calcul fără a le transforma în operatori de centre de date. De aceea lucrez la Axe Compute. Companiile care construiesc infrastructura din spatele IA vor determina cât de departe și cât de repede se poate extinde această tehnologie.

Pe măsură ce companiile accelerează adoptarea IA, accesul la calcul de înaltă performanță pe GPU a devenit un aspect esențial. Care sunt cele mai răspândite concepții greșite ale companiilor despre cerințele lor de calcul și cum ar trebui să evalueze infrastructura GPU dedicată în comparație cu serviciile cloud tradiționale?

Cea mai răspândită concepție greșită este că mai multe GPU-uri înseamnă automat performanțe mai bune pentru IA. Arhitectura din jurul acestor GPU-uri, consecvența accesului la ele și costurile de utilizare sunt la fel de importante. A doua este presupunerea că modelul cloud conceput pentru software-ul destinat companiilor este potrivit și pentru IA. Serviciile cloud publice sunt excelente pentru experimentare, cerere imprevizibilă și sarcini de lucru care se extind sau se reduc rapid. Însă, odată ce ajungi în etapa de producție și rulezi sarcini de lucru intensive în permanență, calculele economice se schimbă. Nu mai plătești pentru resurse de calcul folosite ocazional. Finanțezi o operațiune industrială continuă, pe baza unui model de tarifare în funcție de consum. Le recomand companiilor să analizeze gradul de utilizare, durata sarcinilor de lucru, necesitățile de rețea și costul total pe parcursul mai multor ani, nu doar prețul GPU-urilor pe oră. Infrastructura dedicată oferă costuri previzibile și control pentru sarcinile de lucru susținute, însă alegerea potrivită depinde de modul în care intenționați efectiv să utilizați IA.

Axe Compute oferă două modele distincte, Axe Access și Axe Build, care asigură atât disponibilitate imediată a GPU-urilor, cât și infrastructură pentru IA construită la comandă. Ne puteți explica cum funcționează aceste modele, ce tipuri de clienți deservesc și cum pot organizațiile să stabilească ce abordare se potrivește cel mai bine sarcinilor lor de lucru de IA?

Am creat Axe Access și Axe Build pentru că nu toate companiile ajung în același stadiu și nu ar trebui obligate să adopte același model de infrastructură. Axe Access se adresează organizațiilor care au nevoie acum de capacitate GPU dedicată, fie că își extind o operațiune existentă, lansează un model nou sau au depășit capacitățile furnizorului actual. Axe Build este destinat clienților care au nevoie de infrastructură dedicată, proiectată în funcție de cerințele lor pe termen lung, de la capacitate și arhitectură până la operațiuni. Alegerea depinde de momentul potrivit, amploare și gradul de personalizare. Dacă trebuie să rulați sarcini de lucru imediat, începeți cu capacitatea disponibilă. Dacă planificați o operațiune de IA pe mai mulți ani, construiți infrastructura necesară. Pentru mine, important este să le ofer clienților o cale practică de la cerere la capacitate funcțională, pentru că tehnologia are valoare doar atunci când o puteți pune în practică.

Axe Compute a anunțat proiecte contractate de infrastructură pentru IA în valoare de peste 3,45 miliarde de dolari, ceea ce reflectă cererea semnificativă pentru capacitate de calcul dedicată. Care au fost cele mai mari provocări în transformarea acestor angajamente în clustere GPU operaționale și ce lecții ați învățat despre extinderea infrastructurii într-un ritm atât de rapid?

Cea mai importantă lecție este că atragerea cererii și livrarea infrastructurii sunt două discipline foarte diferite și trebuie să fii excepțional de bun la amândouă. Cu proiecte contractate în valoare de peste 3,45 miliarde de dolari, fiecare etapă contează: facilitățile, energia electrică, achizițiile, finanțarea, rețelistica și activitățile tehnice necesare pentru punerea în funcțiune a clusterelor. Fiecare etapă are propriul calendar, iar o singură întârziere poate bloca întreaga implementare. Energia electrică este problema majoră. Poți avea angajamente, capital și echipamente pregătite, dar, fără energie electrică, nimic din toate acestea nu generează randament. Am învățat să ne extindem cu disciplină în ceea ce privește succesiunea proiectelor, alegerea partenerilor și alocarea capitalului. Și nu uităm niciodată că valoarea proiectelor contractate nu este același lucru cu infrastructura deja implementată și generatoare de venituri. Companiile care vor avea succes sunt cele care transformă în mod constant angajamentele în capacitate operațională fiabilă. Execuția este modelul de afaceri.

Disponibilitatea GPU-urilor domină adesea discuțiile despre infrastructura pentru IA, însă energia electrică, răcirea, rețelistica și capacitatea centrelor de date pot fi constrângeri la fel de importante. Care dintre aceste blocaje credeți că reprezintă cel mai mare risc pe termen lung pentru scalabilitatea IA și cum abordează Axe Compute aceste provocări?

Energia electrică. Aproape toate celelalte componente ale infrastructurii pentru IA pot fi extinse sau modernizate mai repede decât sistemele de alimentare cu energie de care depind. Tehnologia GPU avansează rapid, capitalul poate fi investit, iar facilitățile pot fi construite, însă liniile de transport, racordarea la rețelele furnizorilor de utilități și producția de energie la scară largă au termene care depășesc adesea cu mult ciclurile de planificare ale companiilor de IA. Cerem o rețea electrică proiectată în funcție de o cerere previzibilă, care să poată face față unor noi concentrări masive de putere de calcul, iar această problemă nu se rezolvă cheltuind mai mult pe echipamente. La Axe Compute, ne aliniem dezvoltarea infrastructurii la disponibilitatea realistă a energiei și colaborăm cu parteneri care înțeleg implementările de IA de înaltă densitate. Răcirea și rețelistica sunt esențiale, mai ales pe măsură ce crește densitatea rackurilor, însă energia fiabilă și accesibilă ca preț va determina unde se construiește infrastructura pentru IA și care operatori se pot extinde în mod rentabil.

Construirea unui cluster de IA de înaltă performanță presupune mult mai mult decât asamblarea a mii de GPU-uri. Cum influențează factori precum arhitectura rețelei, debitul sistemului de stocare, orchestrarea sarcinilor de lucru și gradul de utilizare a GPU-urilor performanța în condiții reale și unde subestimează cel mai frecvent companiile complexitatea tehnică?

GPU-ul atrage toată atenția, dar performanța lui depinde de tot ce îl înconjoară, iar aici companiile subestimează complexitatea. Poți implementa procesoare extrem de puternice, dar, dacă rețeaua nu poate transfera eficient date între ele sau sistemul de stocare nu le poate furniza suficient de repede, plătești pentru o capacitate pe care nu o folosești. Acest lucru contează cel mai mult în antrenarea la scară largă, unde comunicarea dintre GPU-uri poate influența considerabil durata antrenării unui model. Orchestrarea adaugă un alt nivel de complexitate, deoarece trebuie să gestionezi programarea, alocarea resurselor, defecțiunile și variațiile cererii fără să lași capacitatea neutilizată. Eu evaluez performanța în funcție de rezultatele utile, nu de specificațiile teoretice, deoarece un cluster bine utilizat poate fi mult mai rentabil decât unul mai mare, dar care funcționează ineficient. Infrastructura pentru IA necesită optimizare continuă la nivel de hardware, software și operațiuni. Nu este o achiziție de echipamente pe care o faci o singură dată.

Axe Compute a anunțat recent un parteneriat strategic cu Penguin Solutions pentru a accelera implementarea infrastructurii pentru IA la scară largă. Ce capabilități tehnice și operaționale concrete aduce acest parteneriat și cum va contribui la scurtarea termenelor de implementare, menținând în același timp fiabilitatea și performanța?

Penguin aduce trei lucruri: servicii de implementare și operare coordonate de experți, la locații desemnate pentru clustere GPU; software-ul ClusterWareAI pentru gestionarea operațiunilor clusterelor la scară largă; și acoperire 24×7 din partea unui centru de operațiuni de rețea, asigurată de o echipă Penguin care lucrează alături de a noastră. Acest lucru contează deoarece următoarea etapă de creștere a infrastructurii pentru IA depinde de cât de eficient pot companiile să implementeze și să opereze medii complexe la scară largă. Implementarea unui cluster de IA presupune integrarea sistemelor de calcul, rețelistică, stocare și administrare într-un mediu care funcționează fiabil chiar și în condiții de lucru solicitante. Specialiștii Penguin sporesc capacitatea noastră de livrare, astfel încât să putem implementa mai repede, să preluăm mai multe proiecte și să reducem riscurile de execuție. Obiectivul este să facem implementările mai repetabile și mai previzibile, fără a compromite performanța, deoarece accelerarea unui proiect creează valoare numai dacă infrastructura funcționează fiabil după ce devine operațională.

Pe măsură ce IA evoluează dincolo de antrenarea modelelor la scară largă și se îndreaptă către inferență, agenți autonomi și aplicații în timp real, cum anticipați că se vor schimba cerințele de calcul ale companiilor? Va schimba această tranziție în mod fundamental felul în care sunt proiectate și implementate clusterele GPU și modul în care sunt distribuite geografic?

Inferența va ajunge, în cele din urmă, să reprezinte o parte uriașă a pieței comerciale de infrastructură pentru IA, mai ales pe măsură ce companiile trec de la construirea modelelor la integrarea IA în produse, operațiuni și servicii destinate clienților. Antrenarea se desfășoară în reprize concentrate. În cazul inferenței, contează disponibilitatea, latența, debitul și capacitatea de a procesa continuu milioane de solicitări. Agenții adaugă un nivel suplimentar: execută mai multe sarcini și interoghează modelele în mod repetat pe parcursul unui flux de lucru. Fiecare solicitare poate fi mică, însă cererea totală crește rapid. Mă aștept ca marile clustere centralizate să continue să gestioneze sarcinile solicitante, în timp ce o capacitate mai distribuită geografic va deservi aplicațiile pentru care contează timpii de răspuns și rezidența datelor. De asemenea, companiile vor deveni mai pricepute în a aloca sarcinile de lucru hardware-ului potrivit, în loc să presupună că totul necesită cel mai puternic GPU. Ceea ce mă entuziasmează este că cererea va deveni mult mai diversă, în avantajul furnizorilor care pot oferi capacitatea potrivită, în locurile potrivite și la costurile potrivite.

Construirea infrastructurii pentru IA necesită investiții inițiale substanțiale, în timp ce tehnologia GPU continuă să avanseze rapid. Cum abordează Axe Compute aspectele economice ale finanțării și operării clusterelor GPU dedicate și cum pot companiile să evite să rămână blocate cu hardware costisitor, care s-ar putea învechi înainte de sfârșitul duratei sale de viață utile?

Începi cu cererea clienților, nu cu hardware-ul. Să cumperi echipamente costisitoare și să speri că gradul de utilizare va crește ulterior este o abordare greșită. Aceasta nu este o afacere cu software: ai de-a face cu active fizice costisitoare, perioade lungi de construire și o tehnologie care se îmbunătățește dramatic într-un interval scurt. La Axe Compute, abordarea noastră se bazează pe cerere contractată, implementare disciplinată și infrastructură concepută pentru clienții care au nevoie de o capacitate susținută. Învechirea tehnologică este o realitate, dar un GPU care nu mai este cel mai nou nu este lipsit de valoare comercială. Nu toate aplicațiile de inferență sau sistemele de IA pentru companii au nevoie de cea mai recentă generație de hardware, iar durata de viață productivă a infrastructurii existente poate fi prelungită prin alocarea inteligentă a sarcinilor de lucru. Clienții ar trebui să evalueze aspectele economice pe întreaga durată a contractului: gradul de utilizare, cerințele de performanță și flexibilitatea pe măsură ce tehnologia evoluează. Scopul este să ne asigurăm că durata de viață economică utilă a infrastructurii justifică capitalul investit în aceasta, nu să construim un model de afaceri care depinde de păstrarea la nesfârșit a valorii inițiale a hardware-ului.

Privind spre următorii trei-cinci ani, unde vedeți cele mai mari oportunități de inovare și investiții în infrastructura pentru IA? Vă așteptați ca piața să rămână concentrată în mâinile hiperscalerilor și ale marilor furnizori de GPU-uri sau ar putea companiile specializate în infrastructură să transforme fundamental modul în care companiile au acces la puterea de calcul pentru IA?

O piață atât de mare și de complexă nu va fi deservită eficient de câțiva furnizori care folosesc același model de infrastructură. Hiperscalerii vor rămâne extrem de importanți, dar sunt foarte optimist în privința operatorilor specializați în următorii trei-cinci ani. Suntem încă la începutul procesului de transformare a investițiilor în IA în infrastructura pe care companiile se bazează în fiecare zi. Companiile au nevoi diferite în privința performanței, suveranității datelor, costurilor, termenelor și amplasării geografice, ceea ce creează oportunități reale pentru operatori ca noi. Cele mai interesante oportunități de investiții mi se par cele din infrastructura energetică, sistemele de răcire mai eficiente, rețelele avansate și software-ul care îmbunătățește gradul de utilizare a GPU-urilor, deoarece acestea influențează direct costurile IA. Și finanțarea va evolua, pe măsură ce investitorii se vor familiariza mai mult cu activele și fluxurile de numerar generate de capacitatea contractată. Pentru Axe Compute, oportunitatea constă în a contribui la dezvoltarea acestei piețe, făcând capacitatea dedicată pentru IA mai accesibilă, mai previzibilă și mai ușor de extins pentru organizațiile hotărâte să folosească IA în producție. Asta înțelegem prin putere de calcul fără compromisuri.

Vă mulțumim pentru interviul excelent. Cititorii care doresc să descopere capacitatea GPU dedicată și infrastructura pentru IA destinată companiilor pot vizita Axe Compute.