Saurabh Giri, CPTO of Voltage Park – Interview Series

Saurabh Giri působí jako Chief Product and Technology Officer ve společnosti Voltage Park a je také výkonným ředitelem její správní rady. Je zodpovědný za řízení strategického směru společnosti, definování její produktové cesty a řízení inženýrských operací. Předtím vedl Saurabh týmy, které vyvinuly, spustily a provozovaly platformu Amazon Bedrock, platformu Amazonu pro generativní AI. Na počátku své kariéry Saurabh spoluzaložil a působil jako CEO next-generační platební platformy; spoluzaložil firmu pro algoritmické obchodování se specializací na market making a curve arbitrage na futures trzích; a radil správním radám a manažerským týmům ve strategických, provozních a finančních záležitostech.

Voltage Park má za cíl pomoci podnikům transformovat data na obchodní inteligenci pomocí AI, a to tak, že zpřístupní AI infrastrukturu všem. S desítkami tisíc GPU napříč šesti datovými centry nabízí Voltage Park špičkové hardwarové a zákaznické služby za výjimečnou cenu – bez ohledu na to, zda je zákazník výzkumníkem, startupem nebo velkým podnikem.

Jste pracoval jak v startupích, tak v jedné z největších cloudových poskytovatelů. Co vás původně přitáhlo k světě infrastruktury a AI?

Generativní AI bude transformační ve způsobu, který má pouze několik technologií v posledním století. To, co je dnes možné s hranními modely, jako je OpenAI GPT-5, by bylo před deseti lety nepředstavitelné a překvapivé i před třemi lety.

Ještě jsme na počátku. Má přitažlivost pro mě spočívá v příležitosti tvarovat infrastrukturní vrstvu, která určuje, jak tak hluboká technologie bude využita – pro vědu, pro průmysl a pro společnost jako celek.

V AWS jste pomáhal vyvíjet Amazon Bedrock. Jaké produktové inženýrské zkušenosti z tohoto projektu aplikujete ve Voltage Park?

Amazon Bedrock prolomil mnoho hranic a jsem opravdu pyšný na to, co tým Bedrock dokázal rychleji dosáhnout. Základní myšlenka Bedrocku spočívala v tom, že stavitelé potřebovali abstrakční vrstvu, která by jim umožnila volit modely a modality transparentně – aby se mohli soustředit na stavbu řešení místo řízení infrastrukturní složitosti. Byla to první průmyslová platforma, která poskytovala bezproblémový přístup k několika základním modelům – text, vize a multimodální – bez nutnosti, aby týmy navigovaly modelově specifické API nebo hardwarové omezení.

Schopnosti základních modelů se vyvíjejí rychlým tempem – rychlejším než předchozí technologické posuny, jako je cloud computing, mobilní zařízení nebo dokonce internet sám. Můj tým Bedrock dodával inovace v tomto tempu, předvídající, kam se budou modelové schopnosti nacházet za dvě nebo tři generace, a budující pro tuto budoucnost.

Ve Voltage Park aplikujeme stejný princip: Pohybovat se rychle, aby byla dodána špičková infrastruktura a softwarové abstrakce, které řeší dnešní bolestivé body, a inženýrství pro to, kam se technologie bude ubírat a co budou zákazníci potřebovat, až technologie budoucnosti přijde.

Jaké byly největší technické a kulturní posuny při přechodu z hyperscaleeru na kapitálově efektivní startup, jako je Voltage Park?

V hyperscaleeru existuje inženýrství uvnitř rozsáhlého, zavedeného ekosystému – nástrojů, souladu, marketingu, zákaznické dodávky – kde celek přesahuje součet jeho částí. V startupu vyměňujete tyto příznivé větry za rychlost, soudržnost a dopad. Není zde žádná rozsáhlá byrokracie, která by vás zpomalila, ale není zde ani žádné předem postavené lešení – musíte si je vytvořit sami. Odměnou je kulturní soudržnost a schopnost dodávat produkty s vysokým dopadem v zlomek času.

Voltage Park vlastní 24 000 a více H100 GPU a nabízí holý přístup za konkurenceschopnou cenu. Jaké zákaznické segmenty cílíte především?

Naše platforma zahrnuje holý kov, virtuální stroje, spravované Kubernetes, spravované Slurm a komplementární softwarový stack navržen pro AI úkoly. Sloužíme každému, kdo buduje AI produkty nebo buduje s AI: výzkumníkům, startupům a podnikům. Některé z nejsofistikovanějších stavitelů modelů na světě, jako je Cursor, který tlačí hranice strojového učení ve vědě a inženýrství, trénují své modely na Voltage Park. Podobně mnoho známých AI produktových společností běží inferenční úkoly ve Voltage Park. Pro podniky snižujeme jak náklady, tak prahovou hodnotu odbornosti, aby se mohli snadno přesunout z prototypu do produkce a škálovat úkoly spolehlivě.

Jak zvládáte spotřebu energie, nákladovou efektivitu a udržitelnost, když rozšiřujete svou infrastrukturní stopu?

Učinili jsme a pokračujeme v činění významných investic do efektivního provozu našich datových center. Dosáhli jsme významných zisků v spotřebě energie a nákladech prostřednictvím inovací, jako je AI poháněná prediktivní údržba, která snižuje prostoj a vyhýbá se plýtvání ve srovnání s reaktivním servisem. Většina naší současné stopy je poháněna energií s 99% a více obnovitelnými a zelenými zdroji, a tento poměr poroste, jak se budeme rozšiřovat.

Jak partnerství a standardy tvarují vývoj Voltage Park jako plnohodnotného poskytovatele AI infrastruktury?

Partnerujeme se společnostmi, které pohybují AI z teoretického do transformačního. Dobrým příkladem je naše investice do Matrice.ai, kde jsme vedli jejich rozšíření semen. Jejich odborné znalosti v oblastech modelů vize umožňují našim zákazníkům převést pixely na inteligenci s vertikálně specifickými řešeními napříč několika odvětvími. Budeme pokračovat v poskytování AI infrastrukturního základu pro poskytovatele modelů, aby nasadili své modely v modulárním, integrovaném hardwarovém-softwarovém stacku, který poskytuje výkon bez kompromisů v oblasti zabezpečení nebo ochrany údajů.

Jsme také aktivním přispěvatelem do open-source komunity – podporujeme například SGLang jako našeho infrastrukturního partnera, abychom přinesli komunitě vysoce kvalitní, open-source projekty, jako je SpecForge. A jsme partnerem Národní vědecké nadace USA, abychom podpořili pilotní projekt Národního zdroje pro výzkum AI (NAIRR), veřejně-privátní iniciativu pro rozšíření přístupu k špičkovým AI nástrojům pro výzkumníky a pedagogy po celé zemi.

Jaké funkce pro řízení podniku, auditovatelnost nebo zabezpečení jsou pro AI vývojáře prioritou?

Zabezpečení, ochrana údajů a soulad jsou základními funkcemi naší AI továrny, a naši zákazníci mají jistotu, že pracují se špičkovým stackem. Když budujeme svůj softwarový stack, abychom řešili další bolestivé body zákazníků, přidáváme funkce, jako jsou jemně zrnité oprávnění zdrojů a údajů, hierarchické auditní stopy, bezpečnostní zábrany a bezproblémovou integraci s podnikovými datovými potrubími, API a agentními rámci. Cílem je poskytnout zákazníkům agilitu cloudu s kontrolou lokálního prostředí.

Jakou radu máte pro AI výzkumníky a infrastrukturní týmy, kteří se snaží škálovat efektivně v dnešním výpočetně omezeném prostředí?

AI výzkumníkům a společnostem se doporučuje minimalizovat čas strávený řešeními infrastrukturními výzvami, jelikož se jedná o neoddělitelnou činnost, a využít vyšších úrovní primitiv, jako jsou spravované Kubernetes a Slurm. Vyberte si partnery, kteří nabízejí transparentní ceny, odbornou provozní podporu a výjimečnou inženýrskou odbornost, aby vám pomohli při řešení problémů. Tyto faktory urychlí jak vaši experimentaci, tak škálování.

Kde vidíte Voltage Park za tři roky – dále dolů ve stacku směrem k plnému AI jako službě nebo větvící se do nových oblastí, jako je edge compute?

Tři roky v AI krajině je epocha. Jsme zákaznicky orientovanou společností a za tři roky, stejně jako nyní, se budeme soustředit na reálné bolestivé body zákazníků, ať už v kontextu budování AI produktů nebo spotřeby. Očekávám, že budeme mít mnohem větší sofistikovanost v šíři a hloubce našeho softwarového stacku a záznam o tom, jak pomáháme světovým předním společnostem urychlit přijetí AI v měřítku.

Děkujeme za skvělý rozhovor, čtenářům, kteří si chtějí přečíst více, doporučujeme navštívit Voltage Park.