Alex Yeh, grundlægger og administrerende direktør for GMI Cloud – Interview-serie

Alex Yeh er grundlægger og administrerende direktør for GMI Cloud, et venture-backet digitalt infrastruktur-selskab med missionen om at give alle mulighed for at deployere AI uden besvær og simplificere, hvordan virksomheder bygger, deployerer og skalerer AI gennem integrerede hardware- og software-løsninger

Hvad inspirerede dig til at starte GMI Cloud, og hvordan har din baggrund påvirket din tilgang til at bygge selskabet?

GMI Cloud blev grundlagt i 2021 og fokuserede primært i de første to år på at bygge og drive datacentre til at levere Bitcoin-computernoder. Over denne periode etablerede vi tre datacentre i Arkansas og Texas.

I juni sidste år lagde vi mærke til en stærk efterspørgsel fra investorer og kunder efter GPU-computereffekt. Inden for en måned besluttede jeg at ændre fokus mod AI-cloud-infrastruktur. AI’s hurtige udvikling og den bølge af nye forretningsmuligheder, det bringer, er enten umulige at forudse eller svære at beskrive. Ved at give den nødvendige infrastruktur sigter GMI Cloud på at være tæt på de spændende og ofte utænkelige muligheder i AI.

Før GMI Cloud var jeg partner i et venture-kapital-selskab, hvor jeg jævnligt havde kontakt med nye brancher. Jeg ser kunstig intelligens som det 21. århundredes seneste “guldfeber”, hvor GPU’er og AI-servere fungerer som “guldgraverredskaber” for moderne “guldgravere”, hvilket fremmer hurtig vækst for cloud-selskaber, der specialiserer sig i GPU-computereffekt-udlejning.

Kan du fortælle os om GMI Clouds mission om at simplificere AI-infrastruktur og hvorfor dette fokus er så afgørende på markedet i dag?

Simplificering af AI-infrastruktur er afgørende på grund af den nuværende kompleksitet og fragmentering af AI-stakken, som kan begrænse tilgængelighed og effektivitet for virksomheder, der ønsker at udnytte AI’s potentiale. I dag indebærer AI-opstilling ofte flere afbrudte lag – fra dataforarbejdning og modeltræning til deployment og skaleringsmuligheder – som kræver betydelig tid, specialiserede færdigheder og ressourcer for at håndtere effektivt. Mange virksomheder bruger uger og endda måneder på at identificere de bedst egnede lag af AI-infrastruktur, en proces, der kan strække sig til uger eller endda måneder, hvilket påvirker brugeroplevelsen og produktiviteten.

1. Accelererende deployment: En simplificeret infrastruktur muliggør hurtigere udvikling og deployment af AI-løsninger, hvilket hjælper virksomheder med at forblive konkurrencedygtige og tilpasse sig til skiftende markedskrav.
2. Lavere omkostninger og færre ressourcer: Ved at minimere behovet for specialiseret hardware og brugerdefinerede integrationer kan en strømlinet AI-stak betydeligt reducere omkostningerne og gøre AI mere tilgængeligt, især for mindre virksomheder.
3. Muliggørelse af skalerbarhed: En velintegreret infrastruktur tillader effektiv ressourcestyring, som er afgørende for at skalerer applikationer, når efterspørgslen stiger, og sikrer, at AI-løsninger forbliver robuste og responsiv på større skala.
4. Forbedret tilgængelighed: Simplificeret infrastruktur gør det lettere for en bred vifte af organisationer at adoptere AI uden at kræve omfattende teknisk ekspertise. Denne demokratisering af AI fremmer innovation og skaber værdi på tværs af flere brancher.
5. Støtte til hurtig innovation: Da AI-teknologien udvikler sig, gør mindre kompleks infrastruktur det lettere at inkorporere nye værktøjer, modeller og metoder, hvilket giver organisationer mulighed for at forblive agile og innovere hurtigt.

GMI Clouds mission om at simplificere AI-infrastruktur er afgørende for at hjælpe virksomheder og startups med at fuldt ud udnytte AI’s fordele, gøre det tilgængeligt, omkostningseffektivt og skalerbart for virksomheder af alle størrelser.

I sidste måned sikrede du 82 millioner dollars i Series A-finansiering. Hvordan vil denne nye kapital blive brugt, og hvad er dine umiddelbare udvidelsesmål?

GMI Cloud vil bruge finansieringen til at åbne et nyt datacenter i Colorado og primært investere i H200-GPU’er for at bygge en yderligere stor GPU-klynge. GMI Cloud udvikler også aktivt sin egen cloud-native ressourcestyringsplatform, Cluster Engine, som er ubrudt integreret med vores avancerede hardware. Denne platform giver enestående muligheder for virtualisering, containerisering og orkestrering.

GMI Cloud tilbyder GPU-adgang med 2 gange hurtigere hastighed sammenlignet med konkurrenterne. Hvad er de unikke tilgange eller teknologier, der gør dette muligt?

En nøgleaspekt af GMI Clouds unikke tilgang er at udnytte NVIDIA’s (NVDA ) NCP, som giver GMI Cloud prioriteret adgang til GPU’er og andre avancerede ressourcer. Denne direkte indkøb fra producenter kombineret med stærke finansieringsmuligheder sikrer omkostningseffektivitet og en høj grad af sikkerhed i forsyningssystemet.

Med NVIDIA H100-GPU’er tilgængelige på fem globale lokaliteter, hvordan støtter denne infrastruktur jeres AI-kunders behov i USA og Asien?

GMI Cloud har etableret en global tilstedeværelse, der betjener flere lande og regioner, herunder Taiwan, USA og Thailand, med et netværk af IDC’er (Internet Data Centre) verden over. For tiden driver GMI Cloud tusindvis af NVIDIA Hopper-baserede GPU-kort og er på vej mod en hurtig udvidelse, med planer om at multiplicere sine ressourcer over de næste seks måneder. Denne geografiske fordeling giver GMI Cloud mulighed for at levere problemfri, lav-forsinkelses service til kunder i forskellige regioner, hvilket optimerer dataoverførsels-effektivitet og giver robust infrastruktur-støtte til virksomheder, der udvider deres AI-operationer globalt.

Derudover giver GMI Clouds globale kapaciteter mulighed for at forstå og imødekomme forskellige markedskrav og regulatoriske krav på tværs af regioner, hvilket giver mulighed for tilpassede løsninger, der er tilpasset lokale behov. Med en voksende pool af beregningsressourcer imødekommer GMI Cloud den stigende efterspørgsel efter AI-beregningskraft og tilbyder kunderne omfattende beregningskapacitet til at accelerere modeltræning, forbedre nøjagtighed og forbedre modelpræstation for en bred vifte af AI-projekter.

Som leder af AI-naturlige cloud-tjenester, hvilke trends eller kundebehov fokuserer du på for at drive GMI’s teknologi fremad?

Fra GPU’er til applikationer driver GMI Cloud intelligent transformation for kunder, der imødekommer kravene fra AI-teknologiens udvikling.

Hardware-arkitektur:

• Fysisk cluster-arkitektur: Eksempler som 1250 H100 inkluderer GPU-rakker, blade-rakker og spine-rakker med optimerede konfigurationer af servere og netværksudstyr, der leverer høj-ydelses beregningskraft.
• Netværks-topologi-struktur: Designet med effektiv IB-stof og Ethernet-stof, hvilket sikrer problemfri dataoverførsel og kommunikation.

Software og tjenester:

• Cluster Engine: Bruger en selvudviklet motor til at styre ressourcer som bare metal, Kubernetes/containere og HPC Slurm, hvilket giver optimal ressource-allokering for brugere og administratorer.
• Proprietær cloud-platform: CLUSTER ENGINE er en proprietær cloud-styrings-system, der optimerer ressource-planlægning og giver en fleksibel og effektiv cluster-styrings-løsning

Tilføj slutningsmotor-vejledning:

1. Kontinuerlig beregning, garanterer høj SLA.
2. Tidsdeling for brug af brudte tidsenheder.
3. Prik-forekomst

Konsulent- og tilpassede tjenester: Tilbyder konsulent-, data-rapportering- og tilpassede tjenester som containerisering, modeltrænings-anbefalinger og tilpassede MLOps-platforme.

Robust sikkerheds- og overvågningsfunktioner: Inkluderer rol-baseret adgangskontrol (RBAC), brugergruppe-styring, realtids-overvågning, historisk sporbarhed og alarm-besked.

I din mening, hvad er nogle af de største udfordringer og muligheder for AI-infrastruktur i de næste par år?

Udfordringer:

1. Skalbarhed og omkostninger: Da modellerne bliver mere komplekse, bliver det en udfordring at opretholde skalbarhed og omkostningseffektivitet, især for mindre virksomheder.
2. Energi og bæredygtighed: Høj energiforbrug kræver mere miljøvenlige løsninger, da AI-adoptionen stiger.
3. Sikkerhed og privatliv: Datasikkerhed i fælles infrastrukturer kræver udvikling af sikkerhed og regulatorisk overholdelse.
4. Interoperabilitet: Fragmenterede værktøjer i AI-stakken komplicerer problemfri deployment og integration.

Muligheder:

1. Edge AI-vækst: AI-bearbejdning tæt på datakilder tilbyder reduceret forsinkelse og bandbreddespare.
2. Automatiseret MLOps: Strømlinet operationer reducerer kompleksiteten ved deployment, hvilket giver virksomheder mulighed for at fokusere på applikationer.
3. Energi-effektiv hardware: Innovationer kan forbedre tilgængelighed og reducere miljøpåvirkningen.
4. Hybrid cloud: Infrastruktur, der opererer på tværs af cloud- og on-premises-miljøer, er velegnet til virksomhedsflexibilitet.
5. AI-drevet styring: Brug af AI til at autonomt optimere infrastruktur reducerer nedtid og forbedrer effektivitet.

Kan du dele indsigt i din langsigtede vision for GMI Cloud? Hvilken rol ser du, det spiller i udviklingen af AI og AGI?

Jeg ønsker at bygge AI’et for internettet. Jeg ønsker at bygge infrastrukturen, der driver fremtiden på tværs af verden.

At skabe en tilgængelig platform, lignende Squarespace eller Wix, men til AI. Enhver skal kunne bygge sin egen AI-applikation.

I de kommende år vil AI opleve betydelig vækst, især med generativ AI-brugstilfælde, da flere brancher integrerer disse teknologier for at forbedre kreativitet, automatisere processer og optimere beslutningstagning. Inference vil spille en central rolle i denne fremtid, hvilket giver mulighed for realtids-AI-applikationer, der kan håndtere komplekse opgaver effektivt og i stor skala. Forretnings-til-forretnings-brugstilfælde (B2B) forventes at dominere, da virksomhederne i stigende grad fokuserer på at udnytte AI til at forbedre produktivitet, strømline operationer og skabe ny værdi. GMI Clouds langsigtede vision er i linje med denne trend, med det formål at give avanceret, pålidelig infrastruktur, der understøtter virksomheder i at maksimere produktiviteten og virkningen af AI på tværs af deres organisationer.

Da du udvider operationer med det nye datacenter i Colorado, hvilke strategiske mål eller milepæle er du på vej til at opnå i de næste år?

Da vi udvider operationer med det nye datacenter i Colorado, fokuserer vi på flere strategiske mål og milepæle over de næste år. USA er det største marked for AI og AI-beregning, hvilket gør det afgørende for os at etablere en stærk tilstedeværelse i denne region. Colorados strategiske beliggenhed kombineret med dets robuste teknologiske økosystem og gunstige forretningsmiljø giver os mulighed for bedre at betjene en voksende kundebase og forbedre vores serviceydelser.

Hvad er din råd til virksomheder eller startups, der ønsker at adoptere avanceret AI-infrastruktur?

For startups, der fokuserer på AI-drevet innovation, bør prioriteringen være på at bygge og forfine deres produkter, ikke på at bruge værdifuld tid på infrastruktur-styring. Partner med pålidelige teknologileverandører, der tilbyder pålidelige og skalerbare GPU-løsninger, og undgå leverandører, der skærer hjørner med hvidlakkede alternativer. Pålidelighed og hurtig deployment er afgørende; i de tidlige faser er hastighed ofte den eneste konkurrencemæssige fordel, en startup har mod etablerede spillere. Vælg cloud-baserede, fleksible muligheder, der understøtter vækst, og fokuser på sikkerhed og overholdelse uden at gå på kompromis med agility. Ved at gøre dette kan startups integrere problemfrit, iterere hurtigt og kanalisere deres ressourcer ind i, hvad der virkelig betyder noget – levering af et fremragende produkt på markedet.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge GMI Cloud,