Alex Yeh, GMI Cloudin perustaja ja toimitusjohtaja – Haastattelusarja

Alex Yeh on GMI Cloudin perustaja ja toimitusjohtaja, venture-rahoitteinen digitaalisen infrastruktuurin yritys, jonka tehtävänä on mahdollistaa kaikille helppo AI:n käyttöönotto ja yksinkertaisempi tapa, jolla yritykset voivat rakentaa, käyttää ja skaalata AI:ta integroiduilla laitteisto- ja ohjelmistoratkaisuilla.

Mikä innoitti sinua perustamaan GMI Cloudin, ja miten taustasi on vaikuttanut yrityksen rakentamiseen?

GMI Cloud perustettiin vuonna 2021, ja sen ensisijainen tavoite oli ensimmäisten kahden vuoden aikana rakentaa ja operoida datakeskuksia, jotka tarjoavat Bitcoin-laskentasolmuja. Tänä aikana perustimme kolme datakeskusta Arkansasissa ja Texasissa.

Vuosi sitten, kesäkuussa, huomasimme vahvan kysynnän sijoittajilta ja asiakkailta GPU-laskentatehon suhteen. Kuukauden kuluessa teimme päätöksen siirtyä AI-pilvi-infrastruktuuriin. AI:n nopea kehitys ja uudet liiketoimintamahdollisuudet, jotka se tuo, ovat joko vaikeasti ennustettavissa tai kuvaamattomia. Tarjoamalla olennaisen infrastruktuurin, GMI Cloud pyrkii pysymään läheisessä yhteydessä AI:n jännittäviin ja usein kuvattomiin mahdollisuuksiin.

Ennen GMI Cloudia olin venture-rahaston kumppani, joka osallistui säännöllisesti nousujohtavien alojen toimintaan. Näen tekoälyä 2000-luvun viimeisimmän “kultarynnäkönä”, jossa GPU:t ja AI-palvelimet toimivat “kuokkina” modernille “prospektorille”, joka kiihdyttää nopeaa kasvua pilvipalveluihin, jotka erikoistuvat GPU-laskentatehon vuokraukseen.

Voitko kertoa GMI Cloudin tehtävästä yksinkertaistaa AI-infrastruktuuria ja miksi tämä painopiste on niin tärkeä nykyisellä markkinalla?

Yksinkertaistaa AI-infrastruktuuria on välttämätöntä johtuen nykyisen AI-pinojen monimutkaisuudesta ja hajanaisuudesta, mikä voi rajoittaa saatavuutta ja tehokkuutta yrityksille, jotka pyrkivät hyödyntämään AI:n potentiaalia. Nykyiset AI-järjestelmät usein koostuvat useista erillisistä kerroksista – aineiston esikäsittelystä ja mallin koulutuksesta käyttöönottoon ja skaalautumiseen – jotka vaativat merkittävästi aikaa, erikoistunutta osaamista ja resursseja hallita tehokkaasti. Monet yritykset viettävät viikkoja ja jopa kuukausia etsimässä parhaiten sopivaa AI-infrastruktuurin kerrosta, prosessi, joka voi kestää viikkoja tai jopa kuukausia, vaikuttaa käyttäjäkokemukseen ja tuottavuuteen.

1. Nopeuttaa käyttöönottoa: Yksinkertaistettu infrastruktuuri mahdollistaa nopeamman AI-ratkaisujen kehittämisen ja käyttöönoton, jotta yritykset voivat pysyä kilpailukykyisinä ja sopeutua muuttuviin markkinatarpeisiin.
2. Alentaa kustannuksia ja vähentää resursseja: Yksinkertaistettu AI-pino voi vähentää tarvetta erikoistuneille laitteille ja mukautettuihin integraatioihin, mikä tekee AI:sta helpommin saatavissa, erityisesti pienemmille yrityksille.
3. Mahdollistaa skaalautuvuuden: Hyvin integroidun infrastruktuurin ansiosta voidaan hallita resursseja tehokkaasti, mikä on olennainen skaalautuvuuden kannalta, jotta AI-ratkaisut säilyvät vahvoina ja nopeina suuremmilla mittakaavoilla.
4. Parantaa saatavuutta: Yksinkertaistettu infrastruktuuri tekee AI:sta helpommin saatavissa laajemmalle joukolle organisaatioita ilman, että niiden tarvitsee olla laaja tekninen osaaminen. Tämä AI:n demokratisointi edistää innovaatioita ja luo arvoa useammilla aloilla.
5. Tukee nopeaa innovaatiota: Kun AI-tekniikka kehittyy, yksinkertaisempi infrastruktuuri tekee helpommaksi ottaa käyttöön uusia työkaluja, malleja ja menetelmiä, jotta organisaatiot voivat pysyä joustavina ja innovatiivisina.

GMI Cloudin tehtävä yksinkertaistaa AI-infrastruktuuria on olennainen auttaakseen yrityksiä ja startup-yrityksiä täysimääräisesti hyödyntämään AI:n hyödyt, tekemällä siitä saatavissa, kustannustehokkaan ja skaalautuvan kaiken kokoisille organisaatioille.

Viimeksi saatte 82 miljoonan dollarin Series A -rahoituksen. Miten tätä uutta pääomaa käytetään, ja mitkä ovat välittömät laajentamistavoitteet?

GMI Cloud käyttää rahoitusta avaamaan uuden datakeskuksen Coloradoon ja investoi ensisijaisesti H200-GPU:iin rakentamaan lisää suurta GPU-klusteria. GMI Cloud kehittää myös oman pilvi-infrastruktuurin, Cluster Engine, joka on sulautettu meidän edistyneeseen laitteistoon. Tämä alusta tarjoaa ainutlaatuisia ominaisuuksia virtualisoinnissa, konttien hallinnassa ja orkestraatiossa.

GMI Cloud tarjoaa GPU-pääsyn 2-kertaisella nopeudella verrattuna kilpailijoihin. Mitkä ovat GMI Cloudin ainutlaadukset lähestymistavat tai tekniikat, jotka mahdollistavat tämän?

GMI Cloudin ainutlaatuinen lähestymistapa perustuu hyödyntämään NVIDIAN NCP:tä, joka antaa GMI Cloudille etuoikeutetun pääsyn GPU:ihin ja muihin edistyneisiin resursseihin. Tämä suora hankinta valmistajilta, yhdistettynä vahvoihin rahoitusvaihtoehtoihin, takaa kustannustehokkuuden ja turvallisen toimitusketjun.

NVIDIA (NVDA ) H100-GPU:t ovat saatavilla viidellä maailmanlaajuisella sijainnilla, miten tämä infrastruktuuri tukee AI-asiakkaiden tarpeita Yhdysvalloissa ja Aasiassa?

GMI Cloud on perustanut maailmanlaajuisen läsnäolon, palvelemalla useita maita ja alueita, mukaan lukien Taiwan, Yhdysvallat ja Thaimaa, verkoston internet-datakeskuksia ympäri maailmaa. Tällä hetkellä GMI Cloud operoi tuhansia NVIDIAN Hopper-pohjaisia GPU-kortteja, ja se on nopean laajentumisen polulla, suunnittelemassa resurssien moninkertaistamista seuraavien kuuden kuukauden aikana. Tämä maantieteellinen jakautuminen mahdollistaa GMI Cloudille tarjota viiveettömän, matalan viiveen palvelun asiakkaille eri alueilla, optimoiden datansiirron tehokkuuden ja tarjoamalla vahvan infrastruktuurin tukemisen yrityksille, jotka laajentavat AI-toimintojaan maailmanlaajuisesti.

Lisäksi GMI Cloudin maailmanlaajuinen kyky mahdollistaa ymmärtää ja täyttää monia markkinoiden tarpeita ja sääntelyvaatimuksia alueittain, tarjoamalla räätälöityjä ratkaisuja, jotka on suunniteltu kunkin paikan ainutlaatuisten tarpeiden mukaan. Kasvavan laskentaresurssien ansiosta GMI Cloud vastaa kasvavaa kysyntää AI-laskentatehosta, tarjoamalla asiakkaille runsaasti laskentakapasiteettia kiihdyttääkseen mallin koulutusta, parantaakseen tarkkuutta ja mallin suorituskykyä laajalle ai-aiheisille projekteille.

Johtajana AI-pilvipalveluissa, mitkä trendit tai asiakastarpeet ovat sinun fokuksessa ajamaan GMI:n teknologiaa eteenpäin?

GMI Cloud ajaa älykkään muodonmuutoksen asiakkaiden tarpeisiin, vastaten AI-tekniikan kehitystarpeita.

Laitteistoarkkitehtuuri:

• Fyysinen klusteriarkkitehtuuri: Esimerkiksi 1250 H100 sisältää GPU-hyllyt, lehtihyllyt ja selkähylyt, joissa on optimoitu konfiguraatioita palvelimista ja verkkolaitteista, jotka tarjoavat korkean suorituskyvyn laskentatehoa.
• Verkkotopologisen rakenteen: Suunniteltu tehokkaan IB-kankaan ja Ethernet-kankaan kanssa, varmistaen sileän datansiirron ja viestinnän.

Ohjelmisto ja palvelut:

• Cluster Engine: Käyttäen sisäisesti kehitettyä moottoria hallita resursseja, kuten paljaita metalleja, Kubernetes/kontteja ja HPC Slurm, mahdollistaen optimaalisen resurssien jakamisen käyttäjille ja järjestelmänvalvojille.
• Omistaja-pilvi-alusta: CLUSTER ENGINE on omistaja-pilvihallintajärjestelmä, joka optimoi resurssien aikataulutuksen, tarjoamalla joustavan ja tehokkaan klusterin hallintaratkaisun

Lisää johtavan inference-moottorin tiekartta:

1. Jatkuva laskenta, takaa korkea SLA.
2. Ajan jakaminen osittaiseen käyttöön.
3. Spot-tilanne

Asiantuntija- ja mukautettuja palveluita: Tarjoaa konsultointia, data-raportointia ja mukautettuja palveluita, kuten konttien, mallin koulutuksen suositukset ja räätälöidyt MLOps-alustat.

Vahvat turvallisuus- ja valvontatoiminnot: Sisältää roolipohjaisen pääsyoikeuden, käyttäjäryhmien hallinnan, reaaliaikaisen seurannan, historiatiedon ja hälytysilmoitukset.

Mielestäsi mitkä ovat suurimmat haasteet ja mahdollisuudet AI-infrastruktuurille seuraavien vuosien aikana?

Haasteet::

1. Skaalautuvuus ja kustannukset: Kun mallit kasvavat monimutkaisemmiksi, skaalautuvuuden ja kustannustehokkuuden ylläpitäminen muodostuu haasteeksi, erityisesti pienemmille yrityksille.
2. Energia ja kestävyys: Korkea energiankulutus vaatii yhä enemmän ympäristöystävällisiä ratkaisuja, kun AI:n omaksuminen kasvaa.
3. Turvallisuus ja tietosuoja: Tietojen suojaaminen jaettuissa infrastruktuureissa edellyttää kehittyvää turvallisuutta ja sääntelyyn noudattamista.
4. Yhteensopivuus: Fragmentoituja työkaluja AI-pinossa voi vaikeuttaa saumattoman käyttöönoton ja integraation. Nyt voimme kutistaa kehitysaikaa 2-kertaisesti ja vähentää henkilöstön määrää AI-projektissa 3-kertaisesti.

Mahdollisuudet::

1. Reunaa AI:n kasvu: AI-prosessointi lähellä data-lähteitä tarjoaa viiveen vähentämisen ja bändin säästön.
2. Automaattinen MLOps: Sujuvasti toimivat operaatiot vähentävät AI-käyttöönoton monimutkaisuutta, jotta yritykset voivat keskittyä sovelluksiin.
3. Energiatehokas laitteisto: Innovatiiviset ratkaisut voivat parantaa saatavuutta ja vähentää ympäristövaikutusta.
4. Hybridi-pilvi: Infrastruktuuri, joka toimii sekä pilvessä että paikallisissa ympäristöissä, on sopiva yritysten joustavuudelle.
5. AI-vetoisen hallinnan: Käyttää AI:ta infrastruktuurin autonomiseen optimointiin, jotta vähennetään keskeytyksiä ja parannetaan tehokkuutta.

Voitko jakaa näkymän GMI Cloudin tulevaisuudesta ja roolista AI:n ja AGI:n evoluutiossa?

Haluan rakentaa internetin AI:n. Haluan rakentaa infrastruktuurin, joka voimaannuttaa tulevaisuuden ympäri maailmaa.

Luojaan saatavilla olevan alustan, joka on samanlainen kuin Squarespace tai Wix, mutta AI:lle. Kuka tahansa voi luoda oman AI-sovelluksensa.

Tulevina vuosina AI näkee merkittävän kasvun, erityisesti generatiivisen AI:n käyttötapauksissa, kun enemmän aloja integroi nämä teknologiat parantamaan luovuutta, automatisoimaan prosesseja ja optimoida päätöksentekoa. Inferenssi tulee olemaan keskeisessä roolissa tulevaisuudessa, mahdollistaen reaaliaikaiset AI-sovellukset, jotka voivat käsitellä monimutkaisia tehtäviä tehokkaasti ja suurella skaalalla. Liike-väli (B2B) -käyttötapaukset tulevat hallitsemaan, kun yritykset keskittyvät yhä enemmän hyödyntämään AI:ta tuottavuuden lisäämiseksi, prosessien sujuvoittamiseksi ja uuden arvon luomiseksi. GMI Cloudin pitkän aikavälin visio on linjassa tämän trendin kanssa, tavoitteena tarjota edistynyt, luotettava infrastruktuuri, joka tukee yrityksiä maksimoimaan AI:n tuottavuutta ja vaikutusta koko organisaatiossa.

Mitä strategisia tavoitteita tai merkittäviä saavutuksia aikoisit saavuttaa seuraavan vuoden aikana, kun laajennat toimintaa uudella datakeskuksella Coloradossa?

Kun laajennamme toimintaa uudella datakeskuksella Coloradossa, keskitymme useisiin strategisiin tavoitteisiin ja saavutuksiin seuraavan vuoden aikana. Yhdysvallat on suurin markkina AI:lle ja AI-laskennalle, joten on olennaisen tärkeää perustaa vahva läsnäolo tällä alueella. Coloradon strateginen sijainti, yhdistettynä vahvaan teknologia-ekosysteemiin ja suotuisaan liiketoimintaympäristöön, asemoi meidät palvelemaan kasvavaa asiakaskuntaa ja parantamaan palvelutarjontaa.

Mitä neuvoa antaisit yrityksille tai startup-yrityksille, jotka haluavat omaksua edistyneen AI-infrastruktuurin?

AI-vetäjille keskittyville startup-yrityksille tärkeintä on keskittyä tuotteiden ja palveluiden kehittämiseen, eikä kuluttaa arvokasta aikaa infrastruktuurin hallintaan. Yhteistyö luotettavien teknologia-toimittajien kanssa, jotka tarjoavat luotettavia ja skaalautuvia GPU-ratkaisuja, välttäen toimittajia, jotka leikkaavat kuljetus- ja laadun kompromisseja. Luotettavuus ja nopea käyttöönotto ovat kriittisiä; alkuvaiheessa nopeus on usein ainoa kilpailuetu, jolla startup-yrityksillä on etua perustettuihin toimijoihin nähden. Valitse pilvipohjaiset, joustavat vaihtoehdot, jotka tukevat kasvua, ja keskity turvallisuuteen ja sääntelyyn ilman joustavuuden uhraamista. Näin startup-yritykset voivat integroida sujuvasti, iteroida nopeasti ja kohdistaa resurssinsa siihen, mikä todella on tärkeää – toimittaa erinomainen tuote markkinoille.

Kiitos haastattelusta, lukijat, jotka haluavat oppia lisää, voivat vierailla GMI Cloud,