Chris Miglino, generální ředitel Axe Compute – série rozhovorů

Chris Miglino je generálním ředitelem společnosti Axe Compute a má více než dvacetileté zkušenosti s budováním a rozvojem technologických společností i investováním do nich. Spoluzaložil Social Reality a působil v DNA Fund, kde spojil podnikatelské zkušenosti se znalostí kapitálových trhů a investic do infrastruktury. V Axe Compute se zaměřuje na provozní a finanční výzvy spojené s rozšiřováním vyhrazené výpočetní kapacity pro umělou inteligenci určené podnikovým zákazníkům.

Axe Compute poskytuje vyhrazenou infrastrukturu GPU typu bare metal pro podnikové úlohy umělé inteligence. Její nabídka Axe Access zpřístupňuje dostupnou kapacitu GPU, zatímco Axe Build buduje infrastrukturu podle dlouhodobějších požadavků zákazníků. V tomto rozhovoru Miglino hovoří o ekonomice GPU, omezeních v dodávkách energie, výkonu výpočetních clusterů, partnerstvích při zavádění infrastruktury a o tom, jak může přechod k inferenci a agentům umělé inteligence proměnit poptávku podniků po infrastruktuře.

Vaše kariéra zahrnuje více než dvě desetiletí podnikání, od spoluzaložení Social Reality přes vedení DNA Fund až po současnou funkci generálního ředitele Axe Compute. Co vás původně přivedlo na trh infrastruktury pro umělou inteligenci a jakou příležitost jste rozpoznal, na kterou tradiční poskytovatelé cloudových služeb dostatečně nereagovali?

Příležitost, kterou jsem rozpoznal, byla zřejmá: umělá inteligence se rozvíjí rychleji než infrastruktura, která ji má podporovat. Více než dvě desetiletí buduju a rozvíjím společnosti a investuju do nich; právě v tomto nesouladu jsem našel největší příležitosti. Od spoluzaložení Social Reality až po práci v DNA Fund mě vždy přitahovaly zásadní problémy, u nichž vede jasná cesta od nové technologie ke skutečné obchodní hodnotě. Společnosti investovaly do umělé inteligence miliardy, přesto mnohé nedokázaly získat spolehlivou kapacitu za cenu, která by dávala obchodní smysl. Tradiční poskytovatelé cloudových služeb vybudovali mimořádně úspěšné podniky, jejich infrastruktura je však navržena pro flexibilní sdílená prostředí, nikoli pro náročné výpočetní úlohy umělé inteligence, které běží nepřetržitě. Sám jsem budoval společnosti, takže vím, co podniky potřebují: předvídatelné náklady, spolehlivý přístup a prostor k růstu. Rozpoznal jsem příležitost vybudovat vyhrazenou infrastrukturu podle skutečných požadavků podnikové umělé inteligence a dát společnostem kontrolu nad výpočetními prostředky, aniž by se samy musely stát provozovateli datových center. Proto působím v Axe Compute. Společnosti budující infrastrukturu pro umělou inteligenci rozhodnou o tom, jak daleko a jak rychle se tato technologie může rozšířit.

S tím, jak podniky urychlují zavádění umělé inteligence, se přístup k vysoce výkonným výpočtům na GPU stal zásadní otázkou. Jaké jsou největší mylné představy firem o jejich výpočetních potřebách a jak by měly posuzovat vyhrazenou infrastrukturu GPU ve srovnání s tradičními cloudovými službami?

Největší mylnou představou je, že více GPU automaticky znamená lepší výkon umělé inteligence. Stejně důležitá je architektura, která tato GPU obklopuje, stálá dostupnost a ekonomika jejich provozu. Druhou mylnou představou je předpoklad, že cloudový model vytvořený pro podnikový software je vhodný i pro umělou inteligenci. Veřejný cloud se skvěle hodí k experimentování, nepředvídatelné poptávce a úlohám, jejichž rozsah se rychle mění. Jakmile ale přejdete do produkčního provozu a nepřetržitě spouštíte náročné úlohy, ekonomika se mění. Už neplatíte za občasné výpočty. Financujete nepřetržitý průmyslový provoz prostřednictvím modelu účtování podle spotřeby. Podnikům doporučuji sledovat míru využití, délku trvání úloh, požadavky na síťové propojení a celkové náklady za několik let, nikoli hodinové ceny GPU. Vyhrazená infrastruktura zajišťuje předvídatelné náklady a kontrolu při dlouhodobém provozu náročných úloh, správné řešení však závisí na tom, jak hodláte umělou inteligenci skutečně využívat.

Axe Compute nabízí dva odlišné modely, Axe Access a Axe Build, které zajišťují jak okamžitou dostupnost GPU, tak infrastrukturu pro umělou inteligenci navrženou na míru. Můžete vysvětlit, jak tyto modely fungují, jakým typům zákazníků slouží a jak mohou organizace určit, který z nich nejlépe vyhovuje jejich úlohám umělé inteligence?

Modely Axe Access a Axe Build jsme vytvořili proto, že podniky nepřicházejí všechny ve stejné fázi a neměly by být nuceny používat stejný model infrastruktury. Axe Access je určen organizacím, které potřebují vyhrazenou kapacitu GPU okamžitě, ať už rozšiřují stávající provoz, spouštějí nový model, nebo jim přestává stačit současný poskytovatel. Axe Build je určen zákazníkům, kteří potřebují vyhrazenou infrastrukturu navrženou podle svých dlouhodobých potřeb, od kapacity přes architekturu až po provoz. Rozhodující jsou načasování, rozsah a míra přizpůsobení. Pokud potřebujete úlohy spustit okamžitě, začněte s dostupnou kapacitou. Plánujete-li víceletý provoz umělé inteligence, vybudujte infrastrukturu přímo pro něj. Záleží mi na tom, aby zákazníci měli praktickou cestu od poptávky k funkční kapacitě, protože technologie má hodnotu teprve tehdy, když ji lze využít.

Axe Compute oznámila smluvně sjednané projekty infrastruktury pro umělou inteligenci v hodnotě přes 3,45 miliardy dolarů, což odráží značnou poptávku po vyhrazené výpočetní kapacitě. Jaké největší výzvy jste museli překonat při přeměně těchto závazků na provozuschopné clustery GPU a jaké poznatky jste získali při rozšiřování infrastruktury takovým tempem?

Nejdůležitější poučení je, že získávat zakázky a dodávat infrastrukturu jsou dvě zcela odlišné disciplíny a v obou musíte být mimořádně dobří. Při objemu smluvně sjednaných projektů přesahujícím 3,45 miliardy dolarů záleží na každé fázi: na prostorách, elektřině, nákupu, financování, síťové infrastruktuře i technických pracích nutných ke zprovoznění clusterů. Každá z těchto oblastí má vlastní časový plán a jediné zpoždění může pozdržet celé nasazení. Klíčová je elektřina. Můžete mít zajištěné závazky, kapitál i vybavení, ale bez elektřiny nic z toho nevytvoří výnos. Naučili jsme se růst disciplinovaně, pokud jde o pořadí projektů, výběr partnerů a alokaci kapitálu. Nikdy také nezapomínáme, že hodnota smluvně sjednaných projektů není totéž co infrastruktura, která už byla nasazena a generuje tržby. Zvítězí společnosti, které dokážou soustavně proměňovat závazky ve spolehlivou, provozuschopnou kapacitu. Podstatou našeho podnikání je realizace.

Dostupnost GPU často dominuje debatám o infrastruktuře pro umělou inteligenci, ale stejně významným omezením mohou být elektřina, chlazení, síťová infrastruktura a kapacita datových center. Které z těchto úzkých míst podle vás představuje největší dlouhodobou hrozbu pro škálovatelnost umělé inteligence a jak Axe Compute tyto výzvy řeší?

Elektřina. Téměř každou další součást infrastruktury pro umělou inteligenci lze rozšířit nebo modernizovat rychleji než energetické systémy, na nichž závisí. Technologie GPU se vyvíjí rychle, kapitál lze nasadit a zařízení vybudovat, ale výstavba přenosových vedení, připojení k distribuční síti a velkokapacitní výroba elektřiny se řídí časovými plány, které často výrazně přesahují plánovací cykly společností zaměřených na umělou inteligenci. Potřebujeme síť, která dokáže absorbovat obrovské nové koncentrace výpočetní kapacity na základě předvídatelné poptávky; tento problém nelze vyřešit tím, že se utratí více za hardware. Ve společnosti Axe Compute přizpůsobujeme rozvoj infrastruktury realistické dostupnosti elektřiny a spolupracujeme s partnery, kteří rozumějí nasazování umělé inteligence s vysokou hustotou výpočetního výkonu. Chlazení a síťová infrastruktura jsou zásadní, zejména s rostoucí hustotou racků, ale o tom, kde bude infrastruktura pro umělou inteligenci vybudována a kteří provozovatelé ji dokážou výnosně rozšiřovat, rozhodne spolehlivá a cenově dostupná elektřina.

Vybudovat vysoce výkonný cluster pro umělou inteligenci znamená mnohem víc než sestavit tisíce GPU. Jak ovlivňují skutečný výkon faktory, jako jsou architektura sítě, propustnost úložiště, orchestrace úloh a využití GPU, a v čem podniky nejčastěji podceňují technickou složitost?

GPU se dostávají veškeré pozornosti, ale jejich výkon závisí na všem, co je obklopuje – a právě zde podniky složitost podceňují. Můžete nasadit mimořádně výkonné procesory, ale pokud síť nedokáže mezi nimi efektivně přenášet data nebo jim úložiště nedokáže dostatečně rychle dodávat data, platíte za kapacitu, kterou nevyužíváte. Největší význam to má při trénování ve velkém měřítku, kdy komunikace mezi GPU může podstatně ovlivnit, jak rychle se model dotrénuje. Orchestrace přidává další vrstvu složitosti, protože je třeba řídit plánování, přidělování zdrojů, výpadky i proměnlivou poptávku, aniž by kapacita zůstávala nevyužitá. Výkon posuzuji podle užitečného výstupu, nikoli podle teoretických parametrů: dobře využívaný cluster může být z ekonomického hlediska mnohem výhodnější než větší cluster, který funguje neefektivně. Infrastrukturu pro umělou inteligenci je třeba průběžně optimalizovat napříč hardwarem, softwarem i provozem. Nejde o jednorázový nákup vybavení.

Společnost Axe Compute nedávno oznámila strategické partnerství se společností Penguin Solutions, jehož cílem je urychlit rozsáhlé nasazování infrastruktury pro umělou inteligenci. Jaké konkrétní technické a provozní schopnosti toto partnerství přináší a jak pomůže zkrátit dobu nasazení při zachování spolehlivosti a výkonu?

Penguin přináší tři věci: odborníky vedené služby nasazování a provozní služby v určených lokalitách GPU clusterů, software ClusterWareAI pro správu provozu clusterů ve velkém měřítku a nepřetržité pokrytí síťového operačního střediska týmem Penguin, který pracuje po našem boku. To je důležité, protože další fáze růstu infrastruktury pro umělou inteligenci závisí na tom, jak efektivně dokážou společnosti ve velkém měřítku nasazovat a provozovat složitá prostředí. Nasazení clusteru pro umělou inteligenci znamená integrovat výpočetní výkon, síťovou infrastrukturu, úložiště a systémy správy do prostředí, které spolehlivě funguje i při náročném zatížení. Specialisté společnosti Penguin rozšiřují naše kapacity pro realizaci projektů, takže můžeme nasazovat rychleji, realizovat více projektů a snižovat rizika spojená s realizací. Cílem je, aby nasazování bylo opakovatelnější a předvídatelnější, aniž by utrpěl výkon, protože urychlení projektu má přínos pouze tehdy, když infrastruktura po spuštění spolehlivě funguje.

Jak očekáváte, že se budou měnit požadavky podniků na výpočetní výkon, když se umělá inteligence posouvá od trénování modelů ve velkém měřítku k inferenci, autonomním agentům a aplikacím v reálném čase? Změní tento posun zásadně způsob, jakým se GPU clustery navrhují, nasazují a geograficky rozmísťují?

Inferenční výpočty budou nakonec tvořit obrovskou část trhu s komerční infrastrukturou pro AI, zejména když firmy přecházejí od vývoje modelů k začleňování AI do produktů, provozu a služeb pro zákazníky. Trénování probíhá v soustředěných dávkách. U inferenčních výpočtů jde o dostupnost, latenci, propustnost a nepřetržité obsluhování milionů požadavků. Agenti přidávají další vrstvu: vykonávají více úloh a v rámci jednoho pracovního postupu opakovaně využívají modely. Každý požadavek může být malý, ale celková poptávka rychle narůstá. Očekávám, že velké centralizované clustery budou i nadále zvládat náročné úlohy, zatímco geograficky rozptýlenější kapacity budou sloužit aplikacím, u nichž záleží na době odezvy a umístění dat. Podniky také budou lépe přiřazovat úlohy vhodnému hardwaru, místo aby předpokládaly, že všechno potřebuje nejvýkonnější GPU. Těší mě, že poptávka bude mnohem rozmanitější, což nahrává poskytovatelům, kteří dokážou nabídnout správnou kapacitu, na správných místech a za správných ekonomických podmínek.

Budování infrastruktury pro AI vyžaduje značný počáteční kapitál, zatímco technologie GPU se dál rychle vyvíjí. Jak Axe Compute přistupuje k ekonomice financování a provozování vyhrazených clusterů GPU a jak se mohou podniky vyhnout tomu, aby se uvázaly k drahému hardwaru, který může zastarat ještě před koncem své životnosti?

Začínáte poptávkou zákazníků, ne hardwarem. Kupovat drahé vybavení a doufat, že se následně dostatečně využije, je obrácený postup. Tohle není softwarový byznys: pracujete s rozsáhlými fyzickými aktivy, dlouhými lhůtami výstavby a technologií, která se během krátké doby výrazně zdokonaluje. Ve společnosti Axe Compute stavíme náš přístup na smluvně zajištěné poptávce, disciplinovaném nasazování a infrastruktuře přizpůsobené zákazníkům, kteří potřebují stabilní kapacitu. Zastarávání je skutečné riziko, ale GPU, které už není nejnovější, nemá nulovou komerční hodnotu. Ne každá aplikace využívající inferenční výpočty ani každý podnikový systém AI potřebuje hardware nejnovější generace a produktivní životnost stávající infrastruktury lze prodloužit rozumným rozdělováním úloh. Zákazníci by měli posuzovat ekonomiku v průběhu celé smlouvy: využití, výkonnostní požadavky i flexibilitu s ohledem na vývoj technologií. Cílem je zajistit, aby ekonomická životnost infrastruktury odpovídala investovanému kapitálu, nikoli budovat obchodní model, který závisí na tom, že si hardware navždy zachová svou původní hodnotu.

Kde podle vás v příštích třech až pěti letech vzniknou největší příležitosti pro inovace a investice do infrastruktury pro AI? Očekáváte, že trh zůstane soustředěný mezi hyperscalery a velkými poskytovateli GPU, nebo by specializované infrastrukturní společnosti mohly zásadně změnit způsob, jakým podniky získávají přístup k výpočetnímu výkonu pro AI?

Tak velký a komplexní trh nebude efektivně obsloužen několika málo poskytovateli, kteří používají stejný model infrastruktury. Hyperscaleři zůstanou nesmírně důležití, ale ohledně specializovaných provozovatelů jsem pro příští tři až pět let velmi optimistický. Jsme teprve na začátku toho, jak investice do AI přetváříme v infrastrukturu, na kterou se firmy každý den spoléhají. Podniky mají různé požadavky na výkon, suverenitu dat, náklady, časové harmonogramy i geografické umístění, což vytváří skutečný prostor pro provozovatele, jako jsme my. Za nejzajímavější investiční příležitosti považuji energetickou infrastrukturu, účinnější chlazení, pokročilé sítě a software zvyšující využití GPU, protože tyto oblasti přímo ovlivňují ekonomiku AI. Promění se také financování, protože investoři získají větší jistotu ohledně těchto aktiv a peněžních toků ze smluvně zajištěné kapacity. Pro Axe Compute spočívá příležitost v tom, že pomůžeme tento trh budovat a zpřístupníme vyhrazenou kapacitu pro AI organizacím, které chtějí AI skutečně nasadit do produkčního provozu, a to předvídatelněji a ve větším měřítku. Právě to máme na mysli, když říkáme výpočetní výkon bez kompromisů.

Děkuji za skvělý rozhovor. Čtenáři, kteří chtějí prozkoumat možnosti vyhrazené kapacity GPU a podnikové infrastruktury pro AI, by měli navštívit Axe Compute.