Alex Yeh, zakladatel a generální ředitel GMI Cloud – rozhovor

Alex Yeh je zakladatel a generální ředitel GMI Cloud, venture-backed digitální infrastrukturní společnosti, jejíž mise spočívá v tom, aby každému umožnila nasadit umělou inteligenci bez námahy a zjednodušila, jak podniky budují, nasazují a škálují umělou inteligenci prostřednictvím integrovaných hardwarových a softwarových řešení.

Co vás inspirovalo k založení GMI Cloud a jak vaše pozadí ovlivnilo váš přístup k budování společnosti?

GMI Cloud byla založena v roce 2021 a ve svých prvních dvou letech se zaměřila primárně na budování a provoz datových center pro poskytování výpočetních uzlů pro Bitcoin. Během tohoto období jsme zřídili tři datové centry v Arkansasu a Texasu.

V červnu loňského roku jsme zaznamenali silnou poptávku od investorů a klientů po výpočetní výkon GPU. Do měsíce jsme se rozhodli zaměřit se na infrastrukturu cloudové AI. Rychlý rozvoj umělé inteligence a vlna nových obchodních příležitostí, které přináší, jsou buď obtížně předvídatelné, nebo těžko popsatelné. Poskytováním základních infrastruktur se GMI Cloud snaží zůstat v blízkém souladu s těmito zajímavými a často nepředstavitelnými příležitostmi v oblasti umělé inteligence.

Než jsem založil GMI Cloud, jsem byl partnerem ve venture capital firmě, kde jsem pravidelně komunikoval s nově se rozvíjejícími odvětvími. Považuji umělou inteligenci za „zlatou horečku“ 21. století, kdy GPU a servery s umělou inteligencí slouží jako „krumpáče“ pro moderní „hledače zlata“, což pohání rychlý růst cloudových společností specializujících se na pronájem výpočetní síly GPU.

Můžete nám říci o misi GMI Cloud, aby zjednodušila infrastrukturu umělé inteligence, a proč je tento zaměření tak důležité na dnešním trhu?

Zjednodušení infrastruktury umělé inteligence je nezbytné kvůli současné komplexnosti a fragmentaci stacku umělé inteligence, což může omezit dostupnost a efektivitu pro podniky, které se snaží využít potenciál umělé inteligence. Dnešní nastavení umělé inteligence často zahrnuje několik nesouvisejících vrstev – od předzpracování dat a školení modelů po nasazení a škálování – které vyžadují značný čas, specializované dovednosti a zdroje pro efektivní správu. Mnoho společností tráví týdny a dokonce měsíce hledáním nejvhodnějších vrstev infrastruktury umělé inteligence, což může mít dopad na uživatelský zážitek a produktivitu.

1. Zrychlení nasazení: Zjednodušená infrastruktura umožňuje rychlejší vývoj a nasazení řešení umělé inteligence, což pomáhá společnostem zůstat konkurenceschopnými a přizpůsobit se měnícím se požadavkům trhu.
2. Snižování nákladů a zdrojů: Minimalizací potřeby specializovaného hardwaru a vlastních integrací může zjednodušený stack umělé inteligence výrazně snížit náklady, což činí umělou inteligenci dostupnější, zejména pro menší podniky.
3. Povolení škálovatelnosti: Dobře integrovaná infrastruktura umožňuje efektivní správu zdrojů, což je nezbytné pro škálování aplikací, když roste poptávka, a zajišťuje, aby řešení umělé inteligence zůstala robustní a reagující i ve větších měřítcích.
4. Zlepšení dostupnosti: Zjednodušená infrastruktura usnadňuje širšímu spektru organizací přijetí umělé inteligence bez nutnosti rozsáhlých technických znalostí. Tato demokratizace umělé inteligence podporuje inovace a vytváří hodnotu v různých odvětvích.
5. Podpora rychlé inovace: Jak se technologie umělé inteligence vyvíjí, méně komplexní infrastruktura usnadňuje začlenění nových nástrojů, modelů a metod, což umožňuje organizacím zůstat agilními a inovovat rychle.

GMI Cloud má za misi zjednodušit infrastrukturu umělé inteligence, aby pomohla podnikům a startupům plně využít výhod umělé inteligence, a to tak, aby byla dostupná, nákladově efektivní a škálovatelná pro organizace všech velikostí.

V nedávné době jste získali 82 milionů dolarů ve financování série A. Jak bude tento nový kapitál využit, a jaké jsou vaše bezprostřední cíle expanze?

GMI Cloud využije financování k otevření nového datového centra v Coloradu a primárně investuje do H200 GPU pro vytvoření další velké clusteru GPU. GMI Cloud také aktivně vyvíjí svou vlastní cloudovou platformu pro správu zdrojů, Cluster Engine, která je bezproblémově integrována s našimi pokročilými hardwarovými řešeními. Tato platforma poskytuje bezprecedentní schopnosti virtualizace, kontejnerizace a orchestrace.

GMI Cloud nabízí přístup k GPU se dvakrát vyšší rychlostí ve srovnání s konkurencí. Jaké jedinečné přístupy nebo technologie to umožňují?

Klíčovým aspektem jedinečného přístupu GMI Cloud je využití NVIDIA (NVDA ) NCP, které GMI Cloud poskytuje přednostní přístup k GPU a dalším špičkovým zdrojům. Tento přímý nákup od výrobců, kombinovaný se silnými finančními možnostmi, zajišťuje nákladovou efektivitu a vysoce zabezpečený dodavatelský řetězec.

S dostupností NVIDIA H100 GPU v pěti globálních lokalitách, jak tato infrastruktura podporuje potřeby vašich zákazníků umělé inteligence v USA a Asii?

GMI Cloud zřídila globální přítomnost, sloužící několika zemím a regionům, včetně Tchaj-wanu, Spojených států a Thajska, sítí IDC (Internet Data Centers) po celém světě. V současné době GMI Cloud provozuje tisíce karet NVIDIA Hopper, a je na trajektorii rychlé expanze, s plány na zdvojnásobení svých zdrojů v průběhu příštích šesti měsíců. Tato geografická distribuce umožňuje GMI Cloud poskytovat bezproblémové, nízkoodběrové služby klientům v různých regionech, optimalizuje efektivitu přenosu dat a poskytuje robustní infrastrukturní podporu pro podniky, které rozšiřují své operace s umělou inteligencí po celém světě.

Jako lídr v oblasti AI-nativních cloudových služeb, na které trendy nebo potřeby zákazníků se zaměřujete, abyste poháněli technologii GMI vpřed?

Od GPU po aplikace GMI Cloud pohání inteligentní transformaci pro zákazníky, splňující požadavky vývoje technologie umělé inteligence.

Hardware Architecture:

• Fyzická architektura clusteru: Instance, jako je 1250 H100, zahrnují GPU stojany, listové stojany a páteřní stojany, s optimalizovanými konfiguracemi serverů a síťového vybavení, které poskytují vysokovýkonnou výpočetní sílu.
• Struktura síťové topologie: Navržená s efektivním IB tkanivem a Ethernet tkanivem, zajišťující hladký přenos dat a komunikaci.

Software a služby:

• Cluster Engine: Utilizuje interně vyvinutý engine pro správu zdrojů, jako je holý kov, Kubernetes/kontejnery a HPC Slurm, umožňující optimální alokaci zdrojů pro uživatele a správce.
• Proprietary Cloud Platform: CLUSTER ENGINE je proprietární cloudový manažerský systém, který optimalizuje plánování zdrojů, poskytující flexibilní a efektivní clusterovou správu.

Přidání plánu inferenčního engine:

1. kontinuální výpočet, zajišťující vysokou SLA.
2. sdílení času pro frakční použití.
3. spot instance

Konzultace a přizpůsobené služby:: Nabízí konzultace, reporting dat, přizpůsobené služby, jako je kontejnerizace, doporučení školení modelů a přizpůsobené platformy MLOps.

Robustní bezpečnostní a monitorovací funkce:: Zahrnuje role-based přístupový kontrol (RBAC), správu uživatelských skupin, reálné monitorování, historické sledování a upozornění.

Podle vašeho názoru, jaké jsou některé z největších výzev a příležitostí pro infrastrukturu umělé inteligence v příštích letech?

Výzvy:

1. Škálovatelnost a náklady: Jak se modely stávají složitějšími, udržování škálovatelnosti a dostupnosti se stává výzvou, zejména pro menší společnosti.
2. Energie a udržitelnost: Vysoká spotřeba energie vyžaduje více ekologických řešení, když se adopce umělé inteligence zvyšuje.
3. Bezpečnost a soukromí: Ochrana dat v sdílených infrastrukturách vyžaduje vývoj bezpečnostních a regulačních opatření.
4. Interoperabilita: Fragmentované nástroje ve stacku umělé inteligence komplikují bezproblémové nasazení a integraci.

Příležitosti:

1. Růst edge AI: Zpracování umělé inteligence blíže zdrojům dat nabízí snížení latence a úsporu šířky pásma.
2. Automatizované MLOps: Zjednodušené operace snižují složitost nasazení, umožňující společnostem soustředit se na aplikace.
3. Energeticky efektivní hardware: Inovace mohou zlepšit dostupnost a snížit environmentální dopad.
4. Hybridní cloud: Infrastruktura, která funguje napříč cloudem a místními prostředími, je vhodná pro podnikovou flexibilitu.
5. AI-poháněná správa: Používání umělé inteligence pro autonomní optimalizaci infrastruktury snižuje downtimy a zvyšuje efektivitu.

Můžete sdílet pohledy na vaši dlouhodobou vizi pro GMI Cloud? Jakou roli vidíte pro GMI Cloud v evoluci umělé inteligence a AGI?

Chci postavit umělou inteligenci internetu. Chci postavit infrastrukturu, která pohání budoucnost po celém světě.

Vytvořit dostupnou platformu, podobnou Squarespace nebo Wix, ale pro umělou inteligenci. Každý by měl být schopen postavit svou aplikaci umělé inteligence.

V příštích letech bude umělá inteligence vidět podstatný růst, zejména u generativních případů použití umělé inteligence, protože více odvětví integruje tyto technologie, aby zlepšily kreativitu, automatizovaly procesy a optimalizovaly rozhodování. Inferenční engine bude hrát ústřední roli v této budoucnosti, umožňující reálné aplikace umělé inteligence, které mohou zvládnout složité úkoly efektivně a v měřítku. Firemní případy použití (B2B) budou dominovat, protože podniky se budou stále více zaměřovat na využití umělé inteligence, aby zvýšily produktivitu, optimalizovaly operace a vytvořily novou hodnotu. Dlouhodobá vize GMI Cloud se shoduje s tímto trendem, zaměřujícím se na poskytování pokročilé, spolehlivé infrastruktury, která podporuje podniky v maximálním využití produktivity a dopadu umělé inteligence po celém jejich organizacím.

Jaké strategické cíle nebo milníky se snažíte dosáhnout v příštím roce, když rozšiřujete operace s novým datovým centrem v Coloradu?

Jako jsme rozšiřujeme operace s novým datovým centrem v Coloradu, zaměřujeme se na několik strategických cílů a milníků v příštím roce. Spojené státy jsou největším trhem pro umělou inteligenci a výpočetní výkon umělé inteligence, což z něj činí imperativ pro nás, abychom zřídili silnou přítomnost v tomto regionu. Strategická poloha Colorada, spojená s jeho robustním technologickým ekosystémem a příznivým obchodním prostředím, umožňuje nám lépe sloužit rostoucímu klientelu a vylepšovat naše služby.

Jaký rádce byste dali společnostem nebo startupům, které se snaží přijmout pokročilou infrastrukturu umělé inteligence?

Pro startupy zaměřené na inovace umělé inteligence by mělo být prioritou budování a zdokonalování svých produktů, ne trávení cenného času na správě infrastruktury. Spolupracujte s důvěryhodnými technologickými poskytovateli, kteří nabízejí spolehlivá a škálovatelná řešení GPU, a vyhněte se poskytovatelům, kteří šetří na bíle označených alternativách. Spolehlivost a rychlé nasazení jsou kritické; ve fázi startupu je často rychlost jediným konkurenčním příkopem, který má startup proti zavedeným hráčům. Zvolte cloudová, flexibilní řešení, která podporují růst, a zaměřte se na bezpečnost a dodržování předpisů bez obětování agilitu. Tímto způsobem mohou startupy integrovat hladce, iterovat rychle a kanalizovat své zdroje do toho, co skutečně záleží – dodání vynikajícího produktu na trhu.

Děkuji vám za skvělý rozhovor, čtenářům, kteří se chtějí dozvědět více, doporučujeme navštívit GMI Cloud,