Denise Muyco, spoluzakladatelka a generální ředitelka společnosti RAVEL – série rozhovorů

Denise Muyco je spoluzakladatelkou a generální ředitelkou společnosti RAVEL, kde vede vývoj softwaru pro orchestraci komplexní výpočetní a AI infrastruktury. Jako vystudovaná inženýrka má za sebou kariéru v oblasti energetické infrastruktury, optimalizace procesů, digitálních médií, datových center a virtuálních studií. Než se začala zaměřovat na AI, pomáhala budovat sdílenou vysoce výkonnou výpočetní infrastrukturu pro komunitu studií vizuálních efektů ve Vancouveru a zajistila tak přibližně 30 studiím přístup k výpočetnímu výkonu a zabezpečenému připojení. Tato zkušenost ovlivnila její přístup ke koordinaci nákladných a omezených zdrojů. Ve společnosti RAVEL uplatňuje systémově-inženýrský přístup k umisťování úloh, využití infrastruktury, interoperabilitě a rostoucím nárokům distribuovaných a suverénních prostředí AI.

RAVEL vyvíjí software, který organizacím pomáhá nasazovat, spravovat a škálovat výpočetní a AI úlohy napříč cloudovou, vlastní a hybridní infrastrukturou. Mezi její produkty patří RAVEL Orchestrate pro vysoce výkonné virtuální pracovní stanice, RAVEL Orchestrate AI pro automatizaci a optimalizaci úloh a Boost pro licencování softwaru a telemetrii. Nástroje společnosti propojují infrastrukturu, aplikace, virtualizaci a zabezpečení a zároveň poskytují centralizované řízení a přehled o provozu. RAVEL slouží datovým centrům, poskytovatelům služeb, podnikovým IT týmům, výzkumným skupinám zaměřeným na AI a kreativním studiím. Společnost navazuje na své kořeny v oblasti tvorby digitálního obsahu a zaměřuje se na zjednodušování komplexních prostředí a efektivnější využití dostupné infrastruktury.

Po letech práce na pomezí inženýrství, mediální infrastruktury a distribuovaných výpočtů jste založila společnost RAVEL. Co vás nakonec přimělo firmu založit a jak se její poslání vyvíjelo s tím, jak generativní AI dramaticky zvýšila poptávku po výpočetním výkonu?

Jsem původně inženýrka a na pomezí energetiky, výpočetního výkonu a infrastruktury pracuji už dlouho před současným rozmachem AI. Na začátku kariéry jsem absolvovala stáž v jaderné elektrárně a pozdější práce v médiích a oblasti vizuálních efektů mi přiblížila GPU, vysoké nároky na výpočetní výkon i omezení daná fyzickou infrastrukturou.

Přibližně před 16 lety začala rostoucí odvětví vizuálních efektů ve Vancouveru na tato omezení narážet přímo. Studia potřebovala obrovský výpočetní výkon, aby mohla zpracovávat (neboli renderovat) stále složitější filmový a televizní obsah pro nákladné projekty, ale jen málokteré si mohlo dovolit vybudovat dostatečnou vyhrazenou infrastrukturu, která by v zabezpečeném prostředí pokryla špičkovou poptávku. Omezením se začala stávat také dostupnost energie. Vybudovali jsme sdílenou infrastrukturu, která přibližně 30 studiím zpřístupnila vysoce výkonné výpočty a zabezpečené připojení s vysokou přenosovou kapacitou.

Sdílení infrastruktury vyřešilo jeden problém, ale přineslo další: jak efektivně přidělovat nákladné a omezené zdroje napříč organizacemi a úlohami? Tato zkušenost nakonec vedla k přístupu společnosti RAVEL k inteligentní orchestraci infrastruktury.

AI představuje mnohem rozsáhlejší podobu téže základní výzvy, jen se podstatně zvyšuje její složitost i množství kapitálu v sázce. Úlohy i infrastruktura se změnily, ale potřeba efektivně propojovat nákladné a omezené zdroje je stále důležitější.

Před založením společnosti RAVEL jste pomohla vytvořit konsorcium přibližně 30 studií, zvukových studií, produkčních společností a studií vizuálních efektů ve Vancouveru, které mohly společně využívat vysoce výkonnou výpočetní infrastrukturu. Co vás tato zkušenost naučila o distribuovaných výpočtech a jaké paralely vidíte mezi tehdejšími problémy Hollywoodu s renderováním a dnešními infrastrukturními výzvami v odvětví AI?

Práce v odvětví vizuálních efektů mě naučila, že vybudování a konfigurace infrastruktury představovaly jen polovinu problému. Nákladný výpočetní výkon se musel bezpečně sdílet a efektivně využívat, přičemž musela fungovat také širší infrastruktura – včetně zabezpečené sítě schopné přenášet obrovské soubory. Bylo třeba plánovat úlohy, přidělovat kapacitu a přesouvat obrovské objemy dat, a to vše v situaci, kdy produkční týmy usilovaly o stále ambicióznější výsledky v rámci přísných rozpočtů a termínů. Infrastrukturu bylo nutné průběžně optimalizovat z hlediska využití i výkonu.

AI představuje mnohem rozsáhlejší podobu téže základní výzvy. Organizace investují do infrastruktury značné prostředky, ale samotné rozšíření kapacity nezaručuje efektivní využití nákladných zdrojů. Infrastruktura AI se navíc stále více rozprostírá mezi různá místa, poskytovatele a prostředí, a to vlivem požadavků na energii, kapacitu, zabezpečení, ekonomickou efektivitu, geografické umístění, regulaci a suverenitu. Renderování a AI mohou představovat velmi odlišné úlohy, sdílejí však důležitou infrastrukturní a ekosystémovou výzvu: obě vyžadují efektivní spolupráci vysoce výkonných výpočtů, sítí, zabezpečení a úložišť.

S rostoucí složitostí infrastruktury AI nestačí pouze přidávat výpočetní kapacitu, aby se vyřešila provozní výzva, jak ji efektivně využít. Právě proto jsou zásadní orchestrace a pravidla, jimiž se řídí širší infrastrukturní ekosystém. Společně pomáhají organizacím lépe využívat nákladné a omezené zdroje a koordinovat úlohy v čím dál distribuovanějších prostředích.

RAVEL se označuje za orchestrační vrstvu pro distribuované továrny na AI. Co pro vás znamená „továrna na AI“ a co dnes v infrastrukturním stacku chybí, že je orchestrační vrstva nezbytná?

Továrna na AI podle mě není jen o GPU a výkonných výpočetních clusterech; jde o integrovaný infrastrukturní ekosystém, který propojuje výpočetní výkon, sítě, úložiště, zabezpečení, napájení, chlazení a provozní vrstvy potřebné ke spouštění úloh AI. Továrny na AI se vyvíjejí od izolovaných clusterů k ekosystémům propojených zdrojů, které zahrnují více lokalit a regionů. Tuto složitost je stále obtížnější zvládat ručně nebo pomocí nesourodých dílčích řešení. Orchestrační vrstva tento problém řeší koordinací různorodých a složitých částí stacku a abstrahováním části jeho základní složitosti, takže operátoři mohou infrastrukturu snáze spravovat jako koordinovaný systém.

Když organizace přizpůsobují stávající datová centra pro AI, mnohá z těchto zařízení nebyla původně navržena s ohledem na nároky dnešních úloh AI. AI dnes naráží na strukturální nesoulad, který se projevuje ve třech hlavních problémech. Prvním je napájení, tedy nalezení lokality s dostatečně spolehlivým zdrojem energie pro provoz úloh ve velkém měřítku. Druhým je roztříštěnost ekosystému: stacky AI bývají rozdělené do izolovaných prostředí, která nejsou navržena tak, aby spolupracovala. Třetím problémem je omezený přehled o celkových nákladech na provoz a vlastnictví, který může zakrývat skutečné náklady na infrastrukturu AI. V důsledku toho nemusí být úlohy optimálně využity, hardware může zůstávat nevyužitý a neočekávané provozní náklady mohou zvýšit celkové náklady na vlastnictví, což v konečném důsledku přispívá k vyšším nákladům na tokeny.

Infrastruktura AI se stále více rozprostírá mezi hyperscale cloudy, soukromá datová centra, lokální systémy a specializované poskytovatele GPU. S jakými největšími problémy se organizace potýkají při správě úloh AI napříč těmito různými prostředími?

Závod v budování infrastruktury AI se v posledních několika letech řídil jednoduchým předpokladem: stavět větší. Větší datová centra. Větší clustery. Více GPU. Vyšší kapacita. Model založený na stále větší výstavbě však stále častěji naráží na fyzická, ekonomická a regulační omezení.

Napájení je omezené. Přístup k elektrické síti vyžaduje čas. O tom, kde lze infrastrukturu vybudovat, a kde by se budovat měla, stále více rozhodují ekonomické podmínky, geografie a suverenita. Novou výzvou není pouze vybudovat více infrastruktury AI, ale vybudovat tu správnou infrastrukturu na správných místech a zajistit, aby všechna tato prostředí fungovala jako koordinovaný systém. To je obzvlášť obtížné, když je kapacita rozložena mezi hyperscale cloudy, soukromá datová centra, lokální infrastrukturu a specializované poskytovatele, kteří nebyli nutně navrženi tak, aby spolupracovali.

Napájení představuje z těchto omezení to nejvýraznější. Dostupnost energie stále častěji určuje, kde se infrastruktura AI vůbec vybuduje.

Právě proto je klíčová federace. Propojuje infrastrukturu napříč různými prostředími do jednotného provozního prostředí. Inteligentní orchestrace pak určuje, kde mají úlohy běžet, a to na základě kapacity, napájení, výkonu, nákladů, zásad, odolnosti a suverenity.

S dalším rozšiřováním infrastruktury AI napříč lokalitami i poskytovateli nebude konkurenční výhoda spočívat pouze ve vlastnictví větší kapacity. Bude záležet na tom, zda tato kapacita dokáže fungovat společně. Federace vytváří infrastrukturní model pro tuto novou realitu, zatímco inteligentní orchestrace umožňuje jeho provoz ve velkém měřítku.

Tento model uplatňuje jeden z našich zákazníků, společnost RT-One, která buduje největší technologické parky a datová centra zaměřená na AI v Latinské Americe. Při plánování federované infrastruktury napříč Amerikou propojuje distribuovanou kapacitu, aby ji bylo možné nakonec spravovat jako koordinované prostředí.

Nedostatek GPU přitahuje obrovskou pozornost, ale pouhé přidávání dalších akcelerátorů nemusí nutně znamenat více využitelného výpočetního výkonu pro AI. Kde vidíte největší zdroje neefektivity v dnešní infrastruktuře AI a jakou dodatečnou kapacitu by společnosti mohly odemknout lepší orchestrací?

Závod v budování infrastruktury AI se soustředil především na to, kolik gigawattů nové kapacity se plánuje a kolik kapitálu se vyčleňuje na její výstavbu. Je lákavé vnímat problém infrastruktury AI pouze jako nedostatek GPU nebo kapacity, takové pojetí však přehlíží skutečné zdroje neefektivity. Je důležité si uvědomit, že plánovaná kapacita není totéž co kapacita využitelná.

Clustery GPU mohou působit jako plně vytížené, ale drahé GPU mohou přesto zůstávat nečinné, když se jinde ve stacku objeví úzká hrdla výkonu. Může jít například o propustnost úložiště, datové pipeline, přetížení sítě, neefektivní plánování úloh, požadavky na zabezpečení nebo nesoulad mezi architekturou, aplikacemi, ovladači a závislostmi. Přidání GPU neznamená vždy vyšší využitelný výpočetní výkon.

Přidání další infrastruktury automaticky nezvyšuje efektivitu. V mnoha případech naopak vytváří další izolovaná prostředí a zvyšuje náklady.

Organizace potřebují lepší přehled a větší kontrolu, aby mohly zvýšit využití zdrojů, automatizovat rozhodování o infrastruktuře a lépe sladit úlohy s dostupnými zdroji a obchodními prioritami. Lepší přehled a větší kontrola mohou pomoci proměnit soubor infrastrukturních zdrojů v koordinovanější provozní prostředí. Neexistuje žádné přesné ani univerzálně platné číslo, které by vyjadřovalo, jakou kapacitu lze díky orchestrace uvolnit; každá úloha má své specifické požadavky. Jedno je však jasné: řešením nevyužité nebo nedostatečně využité kapacity není jednoduše nakoupit nebo vybudovat další zdroje.

RAVEL zdůrazňuje interoperabilitu mezi infrastrukturou, virtualizačními technologiemi, systémy správy identit a aplikacemi. Proč je interoperabilita stále důležitější, když jsou úlohy AI složitější a distribuovanější?

S tím, jak se infrastruktura stává rozmanitější, potřebují organizace flexibilitu, aby mohly využívat různé technologie a prostředí, aniž by vytvářely další izolovaná infrastrukturní sila. Interoperabilita umožňuje, aby výpočetní kapacita, úložiště, sítě a aplikace od různých dodavatelů a z různých prostředí spolupracovaly, a zachovává tak možnost volby při dalším vývoji infrastruktury. Samotná interoperabilita však neurčuje, jak se mají tyto zdroje využívat.

Právě zde přichází na řadu orchestrace – koordinuje, kde úlohy běží, jak se přesouvají a jak se v jednotlivých prostředích uplatňují zásady. S tím, jak se infrastruktura pro AI stále více distribuuje a federuje, interoperabilita umožňuje provoz napříč různými technologiemi, zatímco orchestrace proměňuje tyto zdroje v koordinované provozní prostředí.

RAVEL Orchestrate AI poskytuje společnou vrstvu orchestrace pro výpočetní kapacitu, úložiště, sítě a další infrastrukturní technologie a koordinuje úlohy AI v cloudových, lokálních i hybridních prostředích.

Datová suverenita se stává zásadním hlediskem pro vlády a podniky, které nasazují AI. Jak rozvoj suverénní infrastruktury pro AI mění způsob, jakým by organizace měly přemýšlet o umístění úloh, přesunu dat, zabezpečení a orchestraci?

Suverénní AI je nyní strategickou prioritou. S ní vyvstává zásadnější otázka: Co vlastně znamená být suverénní? Diskuse se dosud zaměřovala především na umístění dat, ale domnívám se, že taková definice je příliš úzká.

Suverénní AI definuji jako schopnost státu, podniku, vládní agentury nebo jiné organizace udržovat kontrolu nad svými úlohami AI v souladu se stanovenými zásadami – včetně kontroly nad daty, modely, výpočetní infrastrukturou, přístupem, zabezpečením, provozem a jurisdikcí, které se na tyto úlohy vztahují. Suverenita nutně neznamená, že každá úloha musí zůstat v jednom datovém centru, nebo dokonce na infrastruktuře vlastněné jedinou organizací. Znamená to spíše, že organizace určuje, kde smí úloha běžet, kde mohou být její data uložena nebo kam se mohou přesouvat, kdo k nim smí přistupovat, jaká infrastruktura je může zpracovávat a jaké bezpečnostní, regulační, geografické, provozní a obchodní zásady musí být vždy dodrženy. Tato definice zaměřená na úlohy odpovídá širšímu trendu v oboru, který chápe suverenitu jako kontrolu nad celým prostředím AI, nikoli pouze nad umístěním dat.

Přístup společnosti RAVEL se odlišuje zejména v průsečíku suverénní AI a federace. RAVEL Orchestrate AI může považovat požadavky na suverenitu za omezení v rámci vrstvy orchestrace a zásad: úloha může být způsobilá ke spuštění ve federaci lokalit, cloudů, datových center, okrajových lokalit nebo jiné infrastruktury, ale pouze na zdrojích, které splňují její zásady suverenity. V rámci těchto schválených hranic pak RAVEL může vybrat vhodnou infrastrukturu podle faktorů, jako jsou příkon, náklady, výkon, kapacita, využití, vlastnosti sítě, umístění a priorita. Federace suverenitu neruší; naopak může fungovat v mezích, které suverenita stanovuje. Citlivá vládní úloha může například zůstat výhradně ve schválených zařízeních v USA, a přitom být dynamicky orchestr sunována mezi několika autorizovanými lokalitami. Výsledkem je model, který organizacím umožňuje využívat výhody distribuované infrastruktury AI v podobě vyššího využití zdrojů a odolnosti, aniž by se vzdaly kontroly nad tím, kde a jak jsou provozovány jejich nejcitlivější úlohy.

Společnost RAVEL vznikla v odvětvích, jako jsou média, zábavní průmysl, hry a design, kde mohou být úlohy mimořádně náročné na výpočetní výkon. Jak požadavky generativní AI změnily platformu ve srovnání s infrastrukturními problémy, které jste původně řešili pro kreativní profesionály?

Společnost RAVEL vznikla při řešení infrastrukturních problémů, se kterými se potýkali umělci a inženýři, kteří už tehdy provozovali rozsáhlé úlohy vykreslování, simulací a tvorby obsahu na nákladných výpočetních, úložných a síťových zdrojích. Základní výzvou bylo usnadnit přístup k různorodé infrastruktuře, její sdílení a orchestraci a zároveň maximalizovat využití zdrojů a výkon.

Generativní AI výrazně zvýšila rozsah i složitost tohoto problému. Namísto orchestrací aplikací a úloh vykreslování se nyní musíme zabývat modely AI, jejich nástroji a agenty, úlohami trénování a inference, různými architekturami GPU, rychle se měnícími softwarovými zásobníky, obrovským množstvím přesouvaných dat a podstatně přísnějšími omezeními v oblasti příkonu, nákladů, zabezpečení a dostupnosti.

V důsledku toho se RAVEL vyvinul z platformy zaměřené především na orchestraci výpočetních zdrojů v inteligentní řídicí a optimalizační vrstvu pro infrastrukturu AI. Orchestrate AI využívá telemetrii a zásady k rozhodování nejen o tom, zda je infrastruktura dostupná, ale také kde a jak má úloha běžet s ohledem na faktory, jako jsou náklady, rychlost, spotřeba energie, výkon, využití kapacit, umístění a požadavky na suverenitu.

Federace je také stále důležitější, protože infrastrukturu AI už nelze považovat za soubor izolovaných datových center. Organizace potřebují možnost inteligentně využívat kapacity napříč lokalitami a zároveň zachovávat správu i zabezpečení. Generativní AI v mnoha ohledech nezměnila základní problém, který se RAVEL snažil vyřešit — dramaticky ho však zvětšila a zkomplikovala, takže inteligentní orchestrace, optimalizace a federace jsou stále důležitější.

Vaše kariéra vás zavedla od strojírenství a optimalizace procesů ve Starbucks přes digitální média, datová centra a virtuální studia až k infrastruktuře AI. Jak vaše technické vzdělání ovlivnilo váš přístup k budování firem a řešení problémů s infrastrukturou?

Moje technické vzdělání pravděpodobně ovlivnilo téměř všechno, co dělám při budování firem. Strojírenství vás učí dívat se na systém jako celek, nejen na jednotlivé součásti, a ptát se, kde jsou omezení, kde se plýtvá energií nebo zdroji a jak by mohl celý systém fungovat lépe. Ve Starbucks jsem tento způsob uvažování uplatnil při optimalizaci procesů; později se v digitálních médiích a vizuálních efektech systém skládal z výpočetních zdrojů, úložišť, sítí, aplikací a nakonec celých datových center. Technologie se změnila, ale můj způsob přístupu k problémům se v podstatě nezměnil. Vždycky si kladu otázky: Kde je úzké hrdlo? Co není dostatečně využité? Co můžeme zjednodušit? A jak můžeme zlepšit fungování celého systému, místo abychom optimalizovali jen jednu jeho část?

Přesně tak jsme vybudovali RAVEL. Nemyslím si, že problém infrastruktury AI spočívá jen v pořizování dalších GPU nebo budování dalších datových center. Jde o problém systémového inženýrství, který zahrnuje výpočetní zdroje, energii, úložiště, sítě, software, zátěže, lidi a stále více také geografické umístění a suverenitu. Můžete mít nejrychlejší GPU na světě, ale pokud zbytek systému není optimalizovaný, vytvořili jste jen velmi nákladné úzké hrdlo. Proto se v RAVEL snažíme, aby samotná infrastruktura byla inteligentnější — pomocí telemetrie, zásad, orchestrace a federace průběžně určujeme, jak a kde mají zátěže běžet. Kariéru jsem začal optimalizací fyzických systémů; dnes stejnou inženýrskou disciplínu uplatňujeme při optimalizaci infrastruktury, která pohání AI.

Jak podle vás bude infrastruktura AI vypadat v budoucnu, až budou modely, agenti a aplikace vyžadovat stále větší množství distribuovaných výpočetních zdrojů? Myslíte si, že se továrny na AI stanou standardní vrstvou podnikové infrastruktury, podobně jako se jí v uplynulém desetiletí stal cloud computing?

Jsem přesvědčený, že se továrny na AI stanou základní vrstvou podnikové infrastruktury, podobně jako se jí stal cloud computing — nemyslím si ale, že budou mít podobu jediného standardizovaného datového centra nebo cloudu. S tím, jak budou modely, agenti a aplikace spotřebovávat stále větší množství výpočetních zdrojů, budou podniky využívat různorodou kombinaci GPU, CPU, soukromé infrastruktury, neocloudů, hyperscale poskytovatelů, prostředí na okraji sítě a specializovaných systémů AI.

Dostupnost energie, náklady, suverenita, výkon a umístění budou stejně důležité jako dostupnost výpočetních zdrojů. Skutečnou výzvou nebude jen budování další infrastruktury, ale také zajištění toho, aby veškerá tato distribuovaná infrastruktura fungovala jako jeden inteligentní systém. Továrna na AI budoucnosti nebude jediná budova — půjde o federované prostředí infrastruktury zahrnující výpočetní zdroje, energii, data a prostředky potřebné ke spouštění zátěží AI tam, kde to dává největší smysl.

Právě zde podle mě vznikne další významná vrstva infrastruktury. Cloud computing abstrahoval servery a usnadnil využívání výpočetních zdrojů; dalším krokem je abstrahovat složitost celého infrastrukturního ekosystému AI. Podniky by neměly muset ručně určovat, na kterém GPU, v jakém datovém centru, cloudu či geografické lokalitě a s jakým zdrojem energie se má spouštět každý model nebo agent. Infrastruktura by měla tato rozhodnutí stále častěji dělat sama a pomocí telemetrie a zásad optimalizovat náklady, rychlost, spotřebu energie, výkon, dostupnost a suverenitu. Právě k takové budoucnosti v RAVEL směřujeme: k inteligentní vrstvě orchestrace, která umožní přesouvat zátěže mezi federovanými částmi infrastruktury AI a současně zachová zásady a kontrolní mechanismy organizace. Cloud zpřístupnil výpočetní zdroje na vyžádání. Věřím, že příští generace infrastruktury AI zpřístupní na vyžádání také optimalizaci.

Děkujeme za skvělý rozhovor. Čtenáři, kteří se chtějí dozvědět více o orchestraci zátěží AI napříč distribuovanou infrastrukturou, mohou navštívit RAVEL.