Chris Miglino, Axe Computen toimitusjohtaja – haastattelusarja

Chris Miglino on Axe Computen toimitusjohtaja, ja hänellä on yli kahden vuosikymmenen kokemus teknologiayritysten rakentamisesta, kasvattamisesta ja niihin sijoittamisesta. Hän oli perustamassa Social Realityä ja on työskennellyt DNA Fundissa. Näin hänelle on kertynyt yrittäjätaustan lisäksi kokemusta pääomamarkkinoista ja infrastruktuurisijoittamisesta. Axe Computessa hän keskittyy yritysasiakkaille tarkoitetun, dedikoidun tekoälyn laskentakapasiteetin skaalaamisen operatiivisiin ja taloudellisiin haasteisiin.

Axe Compute tarjoaa dedikoitua, paljasmetallipalvelimiin perustuvaa GPU-infrastruktuuria yritysten tekoälykuormille. Axe Access tarjoaa käyttöön vapaana olevaa GPU-kapasiteettia, kun taas Axe Build kehittää infrastruktuuria asiakkaiden pitkän aikavälin tarpeisiin. Tässä haastattelussa Miglino käsittelee GPU-laskennan taloutta, sähkötehon rajoitteita, klusterien suorituskykyä, käyttöönoton kumppanuuksia sekä sitä, miten siirtyminen päättelyyn ja tekoälyagentteihin voi muuttaa yritysten infrastruktuurin kysyntää.

Yli kahden vuosikymmenen yrittäjäurasi ulottuu Social Realityn perustamisesta DNA Fundin johtamiseen ja nykyiseen tehtävääsi Axe Computen toimitusjohtajana. Mikä alun perin houkutteli sinut tekoälyinfrastruktuurin markkinoille, ja minkä mahdollisuuden havaitsit, johon perinteiset pilvipalveluntarjoajat eivät vastanneet riittävästi?

Havaitsemani mahdollisuus oli yksinkertainen: tekoäly kehittyy nopeammin kuin sitä tukeva infrastruktuuri. Olen käyttänyt yli kaksi vuosikymmentä yritysten rakentamiseen ja kasvattamiseen sekä niihin sijoittamiseen, ja juuri tästä kuilusta olen löytänyt suurimmat mahdollisuudet. Social Realityn perustamisesta DNA Fundissa tekemääni työhön minua ovat aina vetäneet puoleensa perustavanlaatuiset ongelmat, joissa uudesta teknologiasta on selkeä tie todelliseen kaupalliseen arvoon. Yritykset sijoittivat tekoälyyn miljardeja, mutta monet eivät silti saaneet luotettavaa kapasiteettia kaupallisesti järkevään hintaan. Perinteiset pilvipalveluntarjoajat ovat rakentaneet poikkeuksellisen menestyksekkäitä liiketoimintoja, mutta niiden infrastruktuuri suunniteltiin joustavia, jaettuja ympäristöjä varten, ei jatkuvasti vuorokauden ympäri käytettäviä, laskentateholtaan vaativia tekoälykuormia varten. Olen itse rakentanut yrityksiä, joten tiedän, mitä liiketoiminta tarvitsee: ennakoitavia kustannuksia, luotettavaa saatavuutta ja mahdollisuutta kasvaa. Näin tilaisuuden rakentaa infrastruktuuria, joka vastaa suoraan yritysten tekoälyn todellisiin vaatimuksiin ja antaa niille hallinnan laskentakapasiteetistaan tekemättä niistä samalla datakeskusten ylläpitäjiä. Siksi olen Axe Computessa. Tekoälyn taustalla olevaa infrastruktuuria rakentavat yritykset ratkaisevat, kuinka laajalle ja nopeasti teknologia voi levitä.

Kun yritykset kiihdyttävät tekoälyn käyttöönottoa, tehokkaan GPU-laskennan saatavuudesta on tullut keskeinen kysymys. Mitkä ovat yritysten suurimmat väärinkäsitykset laskentatarpeistaan, ja miten niiden tulisi arvioida dedikoitua GPU-infrastruktuuria suhteessa perinteisiin pilvipalveluihin?

Suurin väärinkäsitys on, että GPU:iden määrän kasvattaminen parantaa automaattisesti tekoälyn suorituskykyä. GPU:iden ympärille rakennettu arkkitehtuuri, käyttöoikeuden jatkuvuus ja niiden käyttökustannukset ovat aivan yhtä tärkeitä. Toinen väärinkäsitys on olettaa, että yritysohjelmistoille kehitetty pilvimalli sopii tekoälyyn. Julkinen pilvi sopii erinomaisesti kokeiluihin, ennakoimattomaan kysyntään ja kuormiin, joiden laajuutta pitää voida kasvattaa tai pienentää nopeasti. Tuotantokäytössä, kun raskaita kuormia ajetaan ympäri vuorokauden, taloudelliset lainalaisuudet kuitenkin muuttuvat. Et enää maksa satunnaisesta laskennasta, vaan rahoitat jatkuvaa teollista toimintaa kulutukseen perustuvalla hinnoittelumallilla. Kehotan yrityksiä tarkastelemaan käyttöastetta, kuormien kestoa, verkkotarpeita ja kokonaiskustannuksia usean vuoden ajalta – ei vain GPU:n tuntihintaa. Dedikoitu infrastruktuuri tuo jatkuville kuormille ennakoitavuutta kustannuksiin ja hallintaa, mutta oikea ratkaisu riippuu siitä, miten tekoälyä aiotaan käytännössä hyödyntää.

Axe Compute tarjoaa kaksi erilaista mallia, Axe Accessin ja Axe Buildin, jotka mahdollistavat sekä GPU-kapasiteetin välittömän saatavuuden että käyttötarkoitukseen suunnitellun tekoälyinfrastruktuurin. Voitko selittää, miten nämä mallit toimivat, millaisille asiakkaille ne sopivat ja miten organisaatiot voivat selvittää, kumpi lähestymistapa vastaa parhaiten niiden tekoälykuormien tarpeisiin?

Kehitimme Axe Accessin ja Axe Buildin, koska yritykset ovat eri vaiheissa eikä niitä pidä pakottaa käyttämään samaa infrastruktuurimallia. Axe Access sopii organisaatioille, jotka tarvitsevat dedikoitua GPU-kapasiteettia heti – olipa kyse nykyisen toiminnan kasvattamisesta, uuden mallin käyttöönotosta tai nykyisen palveluntarjoajan kapasiteetin ylittämisestä. Axe Build on tarkoitettu asiakkaille, jotka tarvitsevat pitkän aikavälin tarpeidensa mukaan suunniteltua dedikoitua infrastruktuuria, kapasiteetista arkkitehtuuriin ja toimintaan. Ero liittyy ajoitukseen, mittakaavaan ja räätälöintiin. Jos kuormat pitää saada ajettua heti, kannattaa aloittaa saatavilla olevasta kapasiteetista. Jos suunnitteilla on useita vuosia kestävä tekoälyhanke, infrastruktuuri kannattaa rakentaa sitä varten. Minulle tärkeintä on tarjota asiakkaille käytännöllinen reitti kysynnästä toimivaan kapasiteettiin, sillä teknologiasta on hyötyä vasta, kun sitä voi käyttää.

Axe Compute on ilmoittanut yli 3,45 miljardin dollarin arvosta sopimuksin sidottuja tekoälyinfrastruktuurihankkeita, mikä kertoo dedikoidun laskentakapasiteetin merkittävästä kysynnästä. Mitkä ovat olleet suurimmat haasteet näiden sitoumusten muuttamisessa toimiviksi GPU-klustereiksi, ja mitä olette oppineet infrastruktuurin skaalaamisesta tällä vauhdilla?

Suurin opetus on, että kysynnän voittaminen ja infrastruktuurin toimittaminen ovat kaksi hyvin erilaista osaamisaluetta, ja kummassakin on oltava poikkeuksellisen hyvä. Kun sopimushankkeiden arvo on yli 3,45 miljardia dollaria, jokaisella vaiheella on merkitystä: tiloilla, sähköllä, hankinnoilla, rahoituksella, verkkoyhteyksillä ja teknisellä työllä, jota klustereiden käyttöönotto edellyttää. Jokainen vaihe etenee omalla aikataulullaan, ja yksikin viivästys voi hidastaa koko käyttöönottoa. Sähkö on näistä suurin haaste. Sitoumukset, pääoma ja laitteet voivat olla valmiina, mutta ilman sähköä mikään niistä ei tuota sijoitukselle vastinetta. Olemme oppineet kasvamaan kurinalaisesti hankkeiden vaiheistuksessa, kumppaneiden valinnassa ja pääoman kohdentamisessa. Emme myöskään koskaan unohda, ettei sopimushankkeiden arvo ole sama asia kuin jo käyttöön otettu ja liikevaihtoa tuottava infrastruktuuri. Voittajia ovat yritykset, jotka muuttavat sitoumukset johdonmukaisesti luotettavaksi, toimivaksi kapasiteetiksi. Toteutus on liiketoimintamalli.

GPU:iden saatavuus hallitsee usein tekoälyinfrastruktuuria koskevaa keskustelua, mutta sähkö, jäähdytys, verkkoyhteydet ja datakeskuskapasiteetti voivat olla yhtä merkittäviä pullonkauloja. Mikä näistä pullonkauloista on mielestäsi pitkällä aikavälillä suurin uhka tekoälyn skaalautuvuudelle, ja miten Axe Compute vastaa näihin haasteisiin?

Sähkö. Lähes kaikkia muita tekoälyinfrastruktuurin osa-alueita voidaan laajentaa tai päivittää taustalla olevia sähköjärjestelmiä nopeammin. GPU-teknologia kehittyy nopeasti, pääomaa voidaan sijoittaa ja tiloja rakentaa, mutta siirtolinjojen rakentaminen, sähköverkkoliityntöjen toteuttaminen ja sähköntuotannon laajentaminen suuressa mittakaavassa vievät aikaa. Niiden aikataulut ylittävät usein reilusti tekoälyyritysten suunnittelusyklit. Tarvitsemme sähköverkon, joka pystyy vastaamaan ennakoitavaan kysyntään ja ottamaan vastaan valtavia uusia laskentatehon keskittymiä. Tätä ongelmaa ei ratkaista lisäämällä laitehankintoihin käytettäviä varoja. Axe Computella sovitamme infrastruktuurin kehittämisen realistiseen sähkön saatavuuteen ja teemme yhteistyötä sellaisten kumppaneiden kanssa, jotka ymmärtävät tekoälyn suurtiheyksisiä käyttöönottoja. Jäähdytys ja verkkoyhteydet ovat ratkaisevan tärkeitä etenkin telineiden tehotiheyden kasvaessa, mutta luotettava ja edullinen sähkö ratkaisee, minne tekoälyinfrastruktuuria rakennetaan ja mitkä toimijat pystyvät kasvamaan kannattavasti.

Suorituskykyisen tekoälyklusterin rakentaminen edellyttää paljon muutakin kuin tuhansien GPU:iden kokoamista yhteen. Miten esimerkiksi verkkoratkaisut, tallennuksen tiedonsiirtonopeus, työkuormien orkestrointi ja GPU:iden käyttöaste vaikuttavat todelliseen suorituskykyyn, ja missä yritykset aliarvioivat useimmiten teknisen monimutkaisuuden?

GPU saa kaiken huomion, mutta sen suorituskyky riippuu kaikesta sen ympärillä. Juuri tässä yritykset aliarvioivat monimutkaisuuden. Käyttöön voidaan ottaa erittäin tehokkaita suorittimia, mutta jos verkko ei siirrä dataa niiden välillä tehokkaasti tai tallennusjärjestelmä ei pysty toimittamaan dataa niille riittävän nopeasti, kapasiteetista maksetaan ilman, että sitä hyödynnetään. Tämä on merkittävintä laajamittaisessa koulutuksessa, jossa GPU:iden välinen tiedonsiirto voi vaikuttaa huomattavasti siihen, kuinka nopeasti mallin koulutus valmistuu. Orkestrointi tuo työhön uuden ulottuvuuden, sillä aikataulutusta, resurssien kohdentamista, vikatilanteita ja muuttuvaa kysyntää on hallittava niin, ettei kapasiteettia jää käyttämättä. Arvioin suorituskykyä hyödyllisen tuloksen, en teoreettisten teknisten tietojen perusteella, sillä hyvin hyödynnetty klusteri voi olla huomattavasti suurempaa mutta tehottomasti toimivaa klusteria taloudellisempi. Tekoälyinfrastruktuuria on optimoitava jatkuvasti laitteiston, ohjelmistojen ja toiminnan osalta. Kyse ei ole kertaluonteisesta laitehankinnasta.

Axe Compute ilmoitti hiljattain strategisesta kumppanuudesta Penguin Solutionsin kanssa nopeuttaakseen tekoälyinfrastruktuurin käyttöönottoa suuressa mittakaavassa. Mitä konkreettisia teknisiä ja operatiivisia valmiuksia kumppanuus tuo, ja miten se auttaa lyhentämään käyttöönottoaikoja luotettavuudesta ja suorituskyvystä tinkimättä?

Penguin tuo mukanaan kolme asiaa: asiantuntijoiden johtamat käyttöönotto- ja käyttöpalvelut määritetyissä GPU-klusterikohteissa, ClusterWareAI-ohjelmiston klusteritoimintojen hallintaan suuressa mittakaavassa sekä Penguin-tiimin tarjoaman verkkovalvontakeskuksen 24×7-päivystyksen, jota se toteuttaa yhdessä tiimimme kanssa. Tämä on tärkeää, sillä tekoälyinfrastruktuurin kasvun seuraava vaihe riippuu siitä, kuinka tehokkaasti yritykset pystyvät ottamaan käyttöön ja operoimaan monimutkaisia ympäristöjä suuressa mittakaavassa. Tekoälyklusterin käyttöönotto tarkoittaa laskennan, verkkoyhteyksien, tallennuksen ja hallintajärjestelmien yhdistämistä ympäristöksi, joka toimii luotettavasti vaativissa työkuormissa. Penguinin asiantuntijat lisäävät toimituskapasiteettiamme, joten voimme ottaa klustereita käyttöön nopeammin, toteuttaa useampia hankkeita ja pienentää toteutusriskejä. Tavoitteena on tehdä käyttöönotosta toistettavampaa ja ennakoitavampaa suorituskyvystä tinkimättä, sillä hankkeen nopeuttaminen tuottaa arvoa vain, jos infrastruktuuri toimii luotettavasti käyttöönoton jälkeen.

Tekoälyn kehitys siirtyy laajamittaisesta mallien kouluttamisesta päättelyyn, autonomisiin agentteihin ja reaaliaikaisiin sovelluksiin. Miten arvioit yritysten laskentatarpeiden muuttuvan? Muuttaako tämä kehitys perusteellisesti GPU-klustereiden suunnittelua, käyttöönottoa ja maantieteellistä jakautumista?

Inferenssistä tulee lopulta valtava osa kaupallisen tekoälyinfrastruktuurin markkinoita, etenkin kun yritykset siirtyvät mallien rakentamisesta tekoälyn integrointiin tuotteisiin, toimintoihin ja asiakasrajapinnan palveluihin. Mallien koulutus tapahtuu keskittyneissä jaksoissa. Inferenssissä keskeisiä ovat saatavuus, viive, läpimenokyky ja miljoonien pyyntöjen jatkuva käsittely. Agentit tuovat tähän uuden ulottuvuuden: ne suorittavat useita tehtäviä ja kutsuvat malleja toistuvasti työnkulun eri vaiheissa. Yksittäinen pyyntö voi olla pieni, mutta kokonaiskysyntä kasvaa nopeasti. Uskon, että suuret keskitetyt klusterit käsittelevät jatkossakin vaativia työkuormia, kun taas maantieteellisesti hajautetumpi kapasiteetti palvelee sovelluksia, joissa vasteajoilla ja datan sijainnilla on merkitystä. Yritykset oppivat myös kohdentamaan työkuormia paremmin niille sopivalle laitteistolle sen sijaan, että olettaisivat kaiken tarvitsevan tehokkainta GPU:ta. Minua innostaa se, että kysyntä monipuolistuu huomattavasti, mikä suosii palveluntarjoajia, jotka pystyvät tarjoamaan oikeanlaista kapasiteettia oikeissa sijainneissa ja oikealla kustannusrakenteella.

Tekoälyinfrastruktuurin rakentaminen vaatii huomattavaa pääomaa etukäteen, ja GPU-teknologia kehittyy jatkuvasti nopeasti. Miten Axe Compute lähestyy erilliskäyttöön tarkoitettujen GPU-klustereiden rahoittamisen ja operoinnin taloudellisia kysymyksiä, ja miten yritykset voivat välttää sitoutumisen kalliiseen laitteistoon, joka saattaa vanhentua ennen käyttöikänsä päättymistä?

Lähtökohtana on asiakkaiden kysyntä, ei laitteisto. Kalliiden laitteiden ostaminen ja sen toivominen, että käyttöaste seuraa perässä, on nurinkurista. Tämä ei ole ohjelmistoliiketoimintaa: siinä ollaan tekemisissä raskaiden fyysisten omaisuuserien, pitkien rakennusaikataulujen ja lyhyessä ajassa huomattavasti kehittyvän teknologian kanssa. Axe Computen toimintamalli perustuu sopimuksin varmistettuun kysyntään, kurinalaiseen käyttöönottoon ja infrastruktuuriin, joka rakennetaan jatkuvaa kapasiteettia tarvitsevien asiakkaiden ympärille. Vanhentuminen on todellinen riski, mutta GPU, joka ei enää ole uusin, ei ole kaupallisesti arvoton. Kaikki inferenssisovellukset tai yritysten tekoälyjärjestelmät eivät tarvitse uusimman sukupolven laitteistoa, ja olemassa olevan infrastruktuurin tuottavaa käyttöikää voi pidentää kohdentamalla työkuormat järkevästi. Asiakkaiden kannattaa tarkastella koko sopimuksen taloudellisuutta: käyttöastetta, suorituskykyvaatimuksia ja joustavuutta teknologian kehittyessä. Tavoitteena on varmistaa, että infrastruktuurin taloudellinen käyttöikä vastaa siihen sijoitettua pääomaa, ei rakentaa liiketoimintamallia sen varaan, että laitteisto säilyttää alkuperäisen arvonsa ikuisesti.

Kun katsotaan seuraavia kolmea–viittä vuotta, missä näet suurimmat innovaation ja investointien mahdollisuudet tekoälyinfrastruktuurissa? Uskotko, että markkinat pysyvät hyperskaalaajien ja suurten GPU-palveluntarjoajien keskittymänä, vai voisivatko erikoistuneet infrastruktuuriyritykset muuttaa perusteellisesti sitä, miten yritykset saavat käyttöönsä tekoälyn laskentatehoa?

Näin suuria ja monimutkaisia markkinoita ei palvella tehokkaasti muutamilla palveluntarjoajilla, jotka kaikki käyttävät samaa infrastruktuurimallia. Hyperskaalaajat pysyvät erittäin tärkeinä, mutta suhtaudun hyvin optimistisesti erikoistuneiden toimijoiden näkymiin seuraavien kolmen–viiden vuoden aikana. Tekoälyinvestointien muuttaminen infrastruktuuriksi, johon yritykset tukeutuvat päivittäin, on vasta alkuvaiheessa. Yritysten tarpeet suorituskyvyn, datan suvereniteetin, kustannusten, aikataulujen ja maantieteellisen sijainnin suhteen vaihtelevat, mikä tarjoaa todellisia mahdollisuuksia meidän kaltaisillemme toimijoille. Mielestäni kiinnostavimmat investointimahdollisuudet liittyvät sähköinfrastruktuuriin, tehokkaampaan jäähdytykseen, kehittyneisiin verkkoratkaisuihin ja GPU-käyttöastetta parantaviin ohjelmistoihin, sillä ne vaikuttavat suoraan tekoälyn taloudellisuuteen. Myös rahoitus kehittyy, kun sijoittajat tottuvat paremmin omaisuuseriin ja sopimuksin varmistetusta kapasiteetista saataviin kassavirtoihin. Axe Computelle mahdollisuus on auttaa rakentamaan näitä markkinoita tekemällä erillisestä tekoälykapasiteetista helpommin saatavaa, ennakoitavampaa ja skaalautuvampaa organisaatioille, jotka ovat tosissaan ottamassa tekoälyä tuotantokäyttöön. Tätä tarkoitamme kompromissittomalla laskentateholla.

Kiitos hienosta haastattelusta! Lukijoiden, jotka haluavat tutustua erilliseen GPU-kapasiteettiin ja yritysten tekoälyinfrastruktuuriin, kannattaa vierailla sivustolla Axe Compute.