Chris Miglino, administrerende direktør i Axe Compute – intervjuserie

Chris Miglino er administrerende direktør i Axe Compute og har over to tiårs erfaring med å bygge og skalere teknologiselskaper og investere i dem. Han var med på å grunnlegge Social Reality og har jobbet med DNA Fund. Dermed kombinerer han en gründerbakgrunn med erfaring fra kapitalmarkeder og investeringer i infrastruktur. I Axe Compute arbeider han med de operasjonelle og økonomiske utfordringene knyttet til å skalere dedikert AI-kapasitet for bedriftskunder.

Axe Compute tilbyr dedikert GPU-infrastruktur på bare metal for AI-arbeidsbelastninger i bedrifter. Tjenesten Axe Access gir tilgang til tilgjengelig GPU-kapasitet, mens Axe Build utvikler infrastruktur tilpasset kundenes langsiktige behov. I dette intervjuet snakker Miglino om økonomien i GPU-bruk, begrensninger knyttet til strømforsyning, klyngeytelse, partnerskap for utrulling og hvordan overgangen til inferens og AI-agenter kan endre etterspørselen etter bedriftsinfrastruktur.

Karrieren din strekker seg over mer enn to tiår med entreprenørskap, fra medgrunnleggelsen av Social Reality til ledelsen av DNA Fund og nå rollen som administrerende direktør i Axe Compute. Hva var det som først tiltrakk deg til markedet for AI-infrastruktur, og hvilken mulighet så du som tradisjonelle skyleverandører ikke dekket godt nok?

Muligheten jeg så, var enkel: AI utvikler seg raskere enn infrastrukturen som skal støtte teknologien. Jeg har brukt over to tiår på å bygge og skalere selskaper og investere i dem, og det er i dette gapet jeg har funnet de største mulighetene. Fra medgrunnleggelsen av Social Reality til arbeidet mitt i DNA Fund har jeg alltid vært tiltrukket av grunnleggende utfordringer med en tydelig vei fra ny teknologi til reell kommersiell verdi. Selskaper investerte milliarder i AI, men mange fikk ikke tilgang til pålitelig kapasitet til en kostnad som var kommersielt forsvarlig. Tradisjonelle skyleverandører har bygget svært vellykkede virksomheter, men infrastrukturen deres var utformet for fleksible, delte miljøer, ikke for vedvarende, datakrevende AI-arbeidsbelastninger som kjøres døgnet rundt. Jeg har selv bygget selskaper, så jeg vet hva bedrifter trenger: forutsigbare kostnader, pålitelig tilgang og rom for å vokse. Jeg så en mulighet til å bygge dedikert infrastruktur rundt bedriftenes faktiske behov innen AI, slik at de får kontroll over datakraften uten å måtte bli datasenteroperatører. Derfor jobber jeg i Axe Compute. Selskapene som bygger infrastrukturen bak AI, vil avgjøre hvor langt og hvor raskt teknologien kan skaleres.

Etter hvert som bedrifter tar i bruk AI raskere, har tilgang til høyytelses GPU-datakraft blitt en avgjørende faktor. Hva er de største misforståelsene bedrifter har om datakraftbehovene sine, og hvordan bør de vurdere dedikert GPU-infrastruktur opp mot tradisjonelle skytjenester?

Den største misforståelsen er at flere GPU-er automatisk gir bedre AI-ytelse. Arkitekturen rundt GPU-ene, hvor stabil tilgangen er, og kostnadene ved å bruke dem er like viktig. Den nest største misforståelsen er å anta at skymodellen som er utviklet for bedriftsprogramvare, også er den rette for AI. Offentlig sky er utmerket til eksperimentering, uforutsigbar etterspørsel og arbeidsbelastninger som raskt skaleres opp eller ned. Men når du setter løsningen i produksjon og kjører tunge arbeidsbelastninger døgnet rundt, endrer økonomien seg. Da betaler du ikke lenger for sporadisk datakraft. Du finansierer en kontinuerlig industriell drift gjennom en forbruksbasert prismodell. Jeg råder bedrifter til å se på utnyttelsesgrad, hvor lenge arbeidsbelastningene varer, nettverksbehov og totalkostnader over flere år, ikke timepriser for GPU-er. Dedikert infrastruktur gir forutsigbare kostnader og kontroll for arbeidsbelastninger som kjøres kontinuerlig, men det riktige valget avhenger av hvordan dere faktisk planlegger å bruke AI.

Axe Compute tilbyr to ulike modeller, Axe Access og Axe Build, som gir både umiddelbar tilgang til GPU-er og AI-infrastruktur som bygges etter kundens behov. Kan du forklare hvordan modellene fungerer, hvilke typer kunder de passer for, og hvordan organisasjoner kan avgjøre hvilken løsning som egner seg best for AI-arbeidsbelastningene deres?

Vi utviklet Axe Access og Axe Build fordi bedrifter ikke alle er på samme sted i prosessen, og de bør heller ikke tvinges til å bruke den samme infrastrukturen. Axe Access er for organisasjoner som trenger dedikert GPU-kapasitet nå, enten de skal skalere opp en eksisterende virksomhet, lansere en ny modell eller har vokst ut av løsningen fra sin nåværende leverandør. Axe Build er for kunder som trenger dedikert infrastruktur utformet etter langsiktige behov, fra kapasitet og arkitektur til drift. Forskjellen handler om tidspunkt, omfang og tilpasning. Hvis du trenger å kjøre arbeidsbelastninger umiddelbart, begynner du med tilgjengelig kapasitet. Hvis du planlegger AI-drift over flere år, bygger du for det. Det viktigste for meg er å gi kundene en praktisk vei fra behov til fungerende kapasitet, for teknologien har først verdi når du kan ta den i bruk.

Axe Compute har kunngjort kontraktsfestede AI-infrastrukturprosjekter verdt mer enn 3,45 milliarder dollar, noe som gjenspeiler den betydelige etterspørselen etter dedikert datakapasitet. Hva har vært de største utfordringene med å gjøre disse forpliktelsene om til operative GPU-klynger, og hvilke erfaringer har dere gjort dere med å skalere infrastrukturen i dette tempoet?

Den viktigste lærdommen er at det å vinne kunder og levere infrastruktur er to helt forskjellige disipliner, og at man må være svært dyktig på begge. Med kontraktsfestede prosjekter til en verdi av mer enn 3,45 milliarder dollar er hvert trinn viktig: anlegg, strøm, anskaffelser, finansiering, nettverk og det tekniske arbeidet med å sette klyngene i drift. Hvert trinn følger sin egen tidsplan, og én forsinkelse kan forsinke hele utrullingen. Strøm er den største utfordringen. Man kan ha forpliktelser, kapital og utstyr på plass, men uten strøm gir ingenting av dette avkastning. Vi har lært å skalere med disiplin når det gjelder rekkefølgen på prosjektene, valg av partnere og kapitalallokering. Og vi glemmer aldri at verdien av kontraktsfestede prosjekter ikke er det samme som infrastruktur som allerede er satt i drift og genererer inntekter. Vinnerne blir selskapene som konsekvent omgjør forpliktelser til pålitelig, operativ kapasitet. Gjennomføring er forretningsmodellen.

Tilgangen på GPU-er dominerer ofte diskusjoner om KI-infrastruktur, men strøm, kjøling, nettverk og kapasitet i datasentre kan være like store begrensninger. Hvilken av disse flaskehalsene mener du utgjør den største langsiktige trusselen mot skalerbarheten til KI, og hvordan håndterer Axe Compute disse utfordringene?

Strøm. Nesten alle andre deler av KI-infrastrukturen kan bygges ut eller oppgraderes raskere enn kraftsystemene den er avhengig av. GPU-teknologien utvikler seg raskt, kapital kan investeres og anlegg kan bygges, men overføringslinjer, nettilknytninger og storskala kraftproduksjon følger tidsplaner som ofte strekker seg langt utover planleggingshorisonten til KI-selskaper. Vi ber om et strømnett som er utformet for å håndtere forutsigbar etterspørsel og absorbere store nye konsentrasjoner av datakraft, og det kan ikke løses ved å bruke mer penger på maskinvare. I Axe Compute samordner vi infrastrukturutviklingen med realistisk tilgang på strøm og samarbeider med partnere som forstår utrulling av KI-infrastruktur med høy effekttetthet. Kjøling og nettverk er avgjørende, særlig når tettheten i rackene øker, men pålitelig og rimelig strøm vil avgjøre hvor KI-infrastruktur bygges, og hvilke operatører som kan skalere lønnsomt.

Å bygge en KI-klynge med høy ytelse innebærer langt mer enn å sette sammen tusenvis av GPU-er. Hvordan påvirker faktorer som nettverksarkitektur, lagringskapasitet, arbeidsflytstyring og GPU-utnyttelse ytelsen i praksis, og hvor undervurderer virksomheter oftest den tekniske kompleksiteten?

GPU-en får all oppmerksomheten, men ytelsen avhenger av alt rundt den, og det er her virksomheter undervurderer kompleksiteten. Man kan ta i bruk svært kraftige prosessorer, men hvis nettverket ikke kan overføre data effektivt mellom dem, eller lagringssystemet ikke kan levere data raskt nok, betaler man for kapasitet man ikke utnytter. Dette er særlig viktig ved storskala trening, der kommunikasjonen mellom GPU-er kan påvirke hvor raskt treningen av en modell blir ferdig. Orkestrering legger til enda et lag med kompleksitet, fordi man må håndtere planlegging, ressursfordeling, feil og endringer i etterspørselen uten å la kapasitet stå ubrukt. Jeg vurderer ytelse ut fra nyttig resultat, ikke teoretiske spesifikasjoner, fordi en godt utnyttet klynge kan gi langt bedre lønnsomhet enn en større klynge som drives ineffektivt. KI-infrastruktur krever kontinuerlig optimalisering av maskinvare, programvare og drift. Det er ikke et engangskjøp av utstyr.

Axe Compute kunngjorde nylig et strategisk partnerskap med Penguin Solutions for å få fart på utrullingen av KI-infrastruktur i stor skala. Hvilke konkrete tekniske og driftsmessige kapasiteter tilfører partnerskapet, og hvordan vil det bidra til å korte ned utrullingstiden samtidig som pålitelighet og ytelse opprettholdes?

Penguin bidrar med tre ting: ekspertstyrte utrullings- og driftstjenester ved utvalgte steder for GPU-klynger, programvaren ClusterWareAI for å administrere klyngedrift i stor skala og døgnkontinuerlig overvåking fra et Penguin-team som arbeider sammen med vårt. Dette er viktig fordi den neste fasen av veksten i KI-infrastruktur avhenger av hvor effektivt selskaper kan ta i bruk og drifte komplekse miljøer i stor skala. Å sette en KI-klynge i drift innebærer å integrere datakraft, nettverk, lagring og styringssystemer i et miljø som fungerer pålitelig under krevende arbeidsbelastninger. Penguins spesialister øker leveringskapasiteten vår, slik at vi kan sette løsninger raskere i drift, påta oss flere utbygginger og redusere gjennomføringsrisikoen. Målet er å gjøre utrullingen mer standardisert og forutsigbar uten å gå på bekostning av ytelsen, for et prosjekt skaper bare verdi når det går raskere dersom infrastrukturen fungerer pålitelig etter at den er satt i drift.

Etter hvert som KI utvikler seg fra trening av store modeller til inferens, autonome agenter og sanntidsapplikasjoner, hvordan tror du virksomheters behov for datakraft vil endre seg? Vil denne utviklingen føre til grunnleggende endringer i hvordan GPU-klynger utformes, tas i bruk og fordeles geografisk?

Inferens vil etter hvert utgjøre en enorm del av markedet for kommersiell AI-infrastruktur, særlig etter hvert som bedrifter går fra å bygge modeller til å integrere AI i produkter, drift og tjenester rettet mot kundene. Trening foregår i konsentrerte økter. Inferens handler om tilgjengelighet, latenstid, gjennomstrømning og kontinuerlig håndtering av millioner av forespørsler. Agenter tilfører enda et lag: De utfører flere oppgaver og sender gjentatte forespørsler til modeller i løpet av en arbeidsflyt. Hver forespørsel kan være liten, men den samlede etterspørselen vokser raskt. Jeg forventer at store, sentraliserte klynger fortsatt vil håndtere krevende arbeidsbelastninger, mens kapasitet som er fordelt over flere geografiske områder, vil betjene applikasjoner der svartid og hvor dataene lagres, er viktig. Bedrifter vil også bli flinkere til å tilpasse arbeidsbelastninger til riktig maskinvare, i stedet for å anta at alt krever den kraftigste GPU-en. Det som begeistrer meg, er at etterspørselen kommer til å bli langt mer mangfoldig, noe som favoriserer leverandører som kan tilby riktig kapasitet på riktig sted og til riktig kostnad.

Utbygging av AI-infrastruktur krever betydelig kapital på forhånd, samtidig som GPU-teknologien utvikler seg raskt. Hvordan håndterer Axe Compute økonomien i finansiering og drift av dedikerte GPU-klynger, og hvordan kan bedrifter unngå å bli låst til dyr maskinvare som kan bli utdatert før den har nådd slutten av sin brukstid?

Man tar utgangspunkt i kundenes etterspørsel, ikke i maskinvaren. Det er bakvendt å kjøpe dyrt utstyr og håpe at utnyttelsesgraden følger etter. Dette er ikke en programvarevirksomhet: Her har man med tunge fysiske eiendeler, lange utbyggingstider og teknologi som forbedres dramatisk på kort tid å gjøre. Hos Axe Compute bygger tilnærmingen vår på inngåtte avtaler om etterspørsel, disiplinert utbygging og infrastruktur tilpasset kunder som trenger stabil kapasitet over tid. Foreldelse er en realitet, men en GPU som ikke lenger er den nyeste, er ikke uten kommersiell verdi. Ikke alle inferensapplikasjoner eller AI-systemer for bedrifter trenger den nyeste maskinvaregenerasjonen, og man kan forlenge den produktive levetiden til eksisterende infrastruktur ved å fordele arbeidsbelastningene på en gjennomtenkt måte. Kundene bør vurdere økonomien gjennom hele kontraktsperioden: utnyttelsesgrad, ytelsesbehov og fleksibilitet etter hvert som teknologien utvikler seg. Målet er å sikre at infrastrukturens økonomiske levetid står i forhold til kapitalen som er investert i den, ikke å bygge en forretningsmodell som er avhengig av at maskinvaren beholder sin opprinnelige verdi for alltid.

Når du ser framover mot de neste tre til fem årene, hvor ser du de største mulighetene for innovasjon og investering i AI-infrastruktur? Tror du markedet fortsatt vil være dominert av hyperskalere og store GPU-leverandører, eller kan spesialiserte infrastrukturselskaper endre grunnleggende hvordan bedrifter får tilgang til AI-regnekraft?

Et så stort og komplekst marked kan ikke betjenes effektivt av en håndfull leverandører som bruker den samme infrastrukturmodellen. Hyperskalererne vil fortsatt være svært viktige, men jeg har stor tro på spesialiserte aktører de neste tre til fem årene. Vi er fortsatt tidlig i arbeidet med å omsette AI-investeringer til infrastrukturen bedrifter bruker hver dag. Bedrifter har ulike behov når det gjelder ytelse, datasuverenitet, kostnader, tidsrammer og geografi, og det gir aktører som oss reelle muligheter. Investeringsmulighetene jeg synes er mest interessante, er kraftinfrastruktur, mer effektiv kjøling, avansert nettverksteknologi og programvare som øker utnyttelsesgraden for GPU-er, fordi dette har direkte innvirkning på økonomien i AI. Finansieringen vil også utvikle seg etter hvert som investorene blir tryggere på eiendelene og kontantstrømmene fra avtalt kapasitet. For Axe Compute ligger muligheten i å bidra til å bygge dette markedet ved å gjøre dedikert AI-kapasitet mer tilgjengelig, forutsigbar og skalerbar for organisasjoner som satser seriøst på å ta AI i bruk i produksjonen. Det er dette vi mener med kompromissløs regnekraft.

Takk for et flott intervju. Lesere som ønsker å utforske dedikert GPU-kapasitet og AI-infrastruktur for bedrifter, bør besøke Axe Compute.