Alex Yeh, Fondator și CEO al GMI Cloud – Seria de Interviuri

Alex Yeh este fondatorul și CEO-ul GMI Cloud, o companie de infrastructură digitală cu capital de risc, cu misiunea de a permite oricui să implementeze AI fără efort și de a simplifica modul în care companiile construiesc, implementează și scalează AI prin soluții de hardware și software integrate.

Ce v-a inspirat să înființați GMI Cloud și cum v-a influențat background-ul în construirea companiei?

GMI Cloud a fost fondat în 2021, concentrându-se în primii doi ani pe construirea și operarea centrelor de date pentru a oferi noduri de calcul Bitcoin. Pe parcursul acestor ani, am înființat trei centre de date în Arkansas și Texas.

În luna iunie a anului trecut, am observat o cerere puternică din partea investitorilor și clienților pentru putere de calcul GPU. În decurs de o lună, am luat decizia de a ne orienta către infrastructura de cloud pentru AI. Dezvoltarea rapidă a AI și valul de noi oportunități de afaceri pe care le aduce sunt fie imposibil de prevăzut, fie greu de descris. Prin furnizarea infrastructurii esențiale, GMI Cloud își propune să rămână strâns legat de oportunitățile interesante și adesea de neimaginat din domeniul AI.

Înainte de GMI Cloud, am fost partener la o firmă de capital de risc, implicându-mă regulat în industrii emergente. Văd inteligența artificială ca o nouă “goană după aur” a secolului al XXI-lea, cu GPU-uri și servere AI care servesc ca “târnăcoape” pentru “prospectori” moderni, stimulând creșterea rapidă a companiilor de cloud care se specializează în închirierea puterii de calcul GPU.

Ne puteți spune despre misiunea GMI Cloud de a simplifica infrastructura AI și de ce este această focalizare atât de crucială pe piața de astăzi?

Simplificarea infrastructurii AI este esențială din cauza complexității și fragmentării actuale a stivei AI, ceea ce poate limita accesibilitatea și eficiența pentru companiile care își propun să valorifice potențialul AI. Instalările actuale de AI implică adesea mai multe straturi deconectate – de la prelucrarea datelor și antrenarea modelului la implementarea și scalarea – care necesită timp semnificativ, abilități specializate și resurse pentru a fi gestionate eficient. Multe companii petrec săptămâni și chiar luni identificând cele mai potrivite straturi ale infrastructurii AI, un proces care poate dura săptămâni sau luni, afectând experiența utilizatorului și productivitatea.

1. Accelerarea implementării: O infrastructură simplificată permite dezvoltarea și implementarea mai rapidă a soluțiilor AI, ajutând companiile să rămână competitive și adaptabile la nevoile pieței în schimbare.
2. Reducerea costurilor și a resurselor: Prin minimizarea nevoii de hardware specializat și integrări personalizate, o stivă AI eficientă poate reduce semnificativ costurile, făcând AI mai accesibil, în special pentru companiile mai mici.
3. Permiterea scalabilității: O infrastructură bine integrată permite gestionarea eficientă a resurselor, esențială pentru scalarea aplicațiilor pe măsură ce crește cererea, asigurând că soluțiile AI rămân robuste și receptive la scară mai largă.
4. Îmbunătățirea accesibilității: Infrastructura simplificată face mai ușor pentru o gamă mai largă de organizații să adopte AI fără a necesita expertiză tehnică extinsă. Această democratizare a AI promovează inovația și creează valoare în mai multe industrii.
5. Sprijinirea inovației rapide: Pe măsură ce tehnologia AI evoluează, o infrastructură mai puțin complexă face mai ușor să se incorporeze noi instrumente, modele și metode, permițând organizațiilor să rămână agile și să inoveze rapid.

Misiunea GMI Cloud de a simplifica infrastructura AI este esențială pentru a ajuta întreprinderile și startup-urile să valorifice pe deplin beneficiile AI, făcând-o accesibilă, eficientă din punct de vedere al costurilor și scalabilă pentru organizații de toate dimensiunile.

Ați obținut recent 82 de milioane de dolari în finanțare de serie A. Cum va fi utilizat acest capital nou, și care sunt obiectivele dvs. imediate de expansiune?

GMI Cloud va utiliza finanțarea pentru a deschide un nou centru de date în Colorado și pentru a investi în principal în GPU-uri H200 pentru a construi un cluster GPU suplimentar de mare scală. GMI Cloud dezvoltă, de asemenea, propria platformă de gestionare a resurselor cloud-native, Cluster Engine, care este integrată perfect cu hardware-ul nostru avansat. Această platformă oferă capacități deosebite în virtualizare, containerizare și orchestrare.

GMI Cloud oferă acces la GPU cu o viteză de 2 ori mai mare în comparație cu competitorii. Care sunt abordările sau tehnologiile unice care fac acest lucru posibil?

Un aspect cheie al abordării unice a GMI Cloud este utilizarea NVIDIA (NVDA ) NCP, care oferă GMI Cloud acces prioritar la GPU-uri și alte resurse de ultimă generație. Acestă procurare directă de la producători, combinată cu opțiuni de finanțare solide, asigură eficiența costurilor și o lanț de aprovizionare foarte securizată.

Cum susține infrastructura dvs. nevoile clienților dvs. de AI în Statele Unite și Asia, având în vedere că aveți GPU-uri NVIDIA H100 disponibile în cinci locații globale?

GMI Cloud a stabilit o prezență globală, deservind multiple țări și regiuni, inclusiv Taiwan, Statele Unite și Thailanda, cu o rețea de centre de date (IDC) în întreaga lume. În prezent, GMI Cloud operează mii de carduri GPU bazate pe NVIDIA Hopper și se află pe o traiectorie de expansiune rapidă, cu planuri de a-și multiplica resursele în următorii șase luni. Această distribuție geografică permite GMI Cloud să ofere servicii fluide, cu latență redusă, clienților din diferite regiuni, optimizând eficiența transferului de date și oferind suport robust pentru infrastructura pentru întreprinderile care își extind operațiunile de AI la nivel global.

În plus, capacitățile globale ale GMI Cloud permit companiei să înțeleagă și să satisfacă cerințele și reglementările diverse de pe piețe și regiuni, oferind soluții personalizate adaptate nevoilor specifice ale fiecărui loc. Cu o cantitate în creștere de resurse de calcul, GMI Cloud răspunde cererii în creștere pentru putere de calcul AI, oferind clienților suficientă capacitate de calcul pentru a accelera antrenarea modelului, a îmbunătăți precizia și a îmbunătăți performanța modelului pentru o gamă largă de proiecte AI.

Ca lider în servicii cloud native AI, care tendințe sau nevoi ale clienților vă concentrați pentru a impulsiona tehnologia GMI înainte?

De la GPU-uri la aplicații, GMI Cloud conduce transformarea inteligentă pentru clienți, satisfăcând cerințele dezvoltării tehnologiei AI.

Arhitectură Hardware:

• Arhitectură de cluster fizic: Instanțe precum 1250 H100 includ rafturi GPU, rafturi de frunze și rafturi de spini, cu configurații optimizate de servere și echipamente de rețea care oferă putere de calcul de înaltă performanță.
• Structura topologiei de rețea: Proiectată cu o țesătură eficientă IB și o țesătură Ethernet, asigurând o transmisie netedă a datelor și o comunicare.

Software și Servicii:

• Cluster Engine: Utilizând un motor dezvoltat intern pentru a gestiona resurse precum metal gol, containere Kubernetes și HPC Slurm, permițând o alocare optimă a resurselor pentru utilizatori și administratori.
• Platformă cloud proprie: CLUSTER ENGINE este un sistem de gestionare a cloud-ului proprietar care optimizează programarea resurselor, oferind o soluție flexibilă și eficientă de gestionare a clusterului

Adăugarea motorului de inferență pe drum:

1. Calcul continuu, garantează un SLA ridicat.
2. Partajare pentru utilizare fracționată a timpului.
3. Instanță spot

Consultanță și Servicii Personalizate: Ofertă de consultanță, raportare de date și servicii personalizate, cum ar fi containerizare, recomandări de antrenare a modelului și platforme MLOps personalizate.

Caracteristici de securitate și monitorizare robuste: Incluzând controlul accesului bazat pe rol (RBAC), gestionarea grupului de utilizatori, monitorizarea în timp real, urmărirea istorică și notificări de alertă.

În opinia dvs., care sunt unele dintre cele mai mari provocări și oportunități pentru infrastructura AI în următorii ani?

Provocări:

1. Scalabilitate și Costuri: Pe măsură ce modelele devin mai complexe, menținerea scalabilității și a accesibilității devine o provocare, în special pentru companiile mai mici.
2. Energie și Durabilitate: Consumul ridicat de energie necesită soluții mai ecologice pe măsură ce adoptarea AI crește.
3. Securitate și Confidențialitate: Protecția datelor în infrastructuri partajate necesită securitate și conformitate regulamentară în evoluție.
4. Interoperabilitate: Uneltele fragmentate din stiva AI complică implementarea și integrarea fără efort. Complică implementarea oricărui AI, de fapt. Acum putem reduce timpul de dezvoltare cu 2x și reduce numărul de angajați pentru un proiect AI cu 3x .

Oportunități:

1. Crescerea AI de margine: Procesarea AI mai aproape de sursele de date oferă reducerea latenței și conservarea benzii de transfer.
2. MLOps automatizat: Operațiunile eficientizate reduc complexitatea implementării, permițând companiilor să se concentreze pe aplicații.
3. Hardware eficient din punct de vedere energetic: Inovațiile pot îmbunătăți accesibilitatea și reduce impactul asupra mediului.
4. Cloud hibrid: Infrastructura care funcționează atât în cloud, cât și în medii on-premise este potrivită pentru flexibilitatea întreprinderilor.
5. Managementul bazat pe AI: Utilizarea AI pentru a optimiza în mod autonom infrastructura reduce timpul de inactivitate și crește eficiența.

Puteți împărtăși perspective asupra viziunii pe termen lung a GMI Cloud? Care rol vedeți GMI Cloud jucând în evoluția AI și AGI?

Vreau să construiesc AI-ul internetului. Vreau să construiesc infrastructura care va alimenta viitorul în întreaga lume.

Pentru a crea o platformă accesibilă, similară cu Squarespace sau Wix, dar pentru AI. Oricine ar trebui să poată construi aplicația sa de AI.

În următorii ani, AI va cunoaște o creștere semnificativă, în special cu cazuri de utilizare a AI generativ, pe măsură ce mai multe industrii integrează aceste tehnologii pentru a îmbunătăți creativitatea, a automatiza procesele și a optimiza luarea deciziilor. Inferența va juca un rol central în acest viitor, permițând aplicații AI în timp real care pot gestiona sarcini complexe eficient și la scară. Cazurile de utilizare Business-to-Business (B2B) vor domina, companiile fiind din ce în ce mai concentrate pe valorificarea AI pentru a-și îmbunătăți productivitatea, a-și eficientiza operațiunile și a crea valoare nouă. Viziunea pe termen lung a GMI Cloud se aliniază cu această tendință, urmărind să ofere infrastructură avansată și fiabilă care să sprijine întreprinderile în maximizarea productivității și impactului AI în organizațiile lor.

Pe măsură ce extindeți operațiunile cu noul centru de date din Colorado, care sunt obiectivele strategice sau reperele pe care le urmăriți să le atingeți în următorul an?

Pe măsură ce extindem operațiunile cu noul centru de date din Colorado, ne concentrăm pe mai multe obiective strategice și repere pe parcursul următorului an. Statele Unite reprezintă cel mai mare market pentru AI și calculul AI, făcând imperativ pentru noi să stabilim o prezență puternică în această regiune. Locația strategică a Colorado, combinată cu ecosistemul tehnologic robust și mediul de afaceri favorabil, ne poziționează pentru a ne deservi mai bine o bază de clienți în creștere și pentru a îmbunătăți ofertele noastre de servicii.

Care ar fi sfatul dvs. pentru companii sau startup-uri care doresc să adopte infrastructura AI avansată?

Pentru startup-urile concentrate pe inovația bazată pe AI, prioritatea ar trebui să fie construirea și rafinarea produselor lor, nu cheltuirea timpului valoros pe gestionarea infrastructurii. Partenerizați cu furnizori de tehnologie de încredere care oferă soluții GPU fiabile și scalabile, evitând furnizorii care taie colțuri cu alternative white-labeled. Fiabilitatea și implementarea rapidă sunt critice; în stadiile incipiente, viteza este adesea singura barieră competitivă pe care o are un startup împotriva jucătorilor consacrați. Alegeți opțiuni cloud bazate pe flexibilitate care susțin creșterea, și concentrați-vă pe securitate și conformitate fără a sacrifica agilitatea. Prin urmare, startup-urile pot integra în mod fluent, pot itera rapid și pot canaliza resursele în ceea ce contează cu adevărat – livrarea unui produs remarcabil pe piață.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe despre GMI Cloud ar trebui să viziteze GMI Cloud,