Saurabh Giri, CPTO z Voltage Park – Interview Series

Saurabh Giri působí jako Chief Product a Technology Officer ve společnosti Voltage Park a je také výkonným ředitelem jejího představenstva. Je zodpovědný za řízení strategického směru společnosti, definování produktové cesty a řízení inženýrských operací. Předtím vedl Saurabh týmy, které vyvinuly, spustily a provozovaly platformu Amazon (AMZN ) Bedrock, platformu Amazonu pro generativní AI. Na začátku své kariéry Saurabh spoluzaložil a působil jako CEO next-generační platební platformy; spoluzaložil firmu pro algoritmické obchodování specializující se na market making a curve arbitrage na futures trzích; a radil představenstvům a manažerským týmům v oblasti strategie, operací a finančních otázek.

Voltage Park má za cíl pomoci podnikům transformovat data na obchodní inteligenci pomocí AI, a to tak, že zpřístupní AI infrastrukturu všem. S desítkami tisíc GPU napříč šesti datovými centry nabízí Voltage Park špičkové hardwarové a zákaznické služby za úžasné ceny – bez ohledu na to, zda je zákazník výzkumníkem, startupem nebo velkou korporací.

Pracoval jste v obou startupů a jedné z největších cloudových poskytovatelů. Co vás původně přitáhlo do světa infrastruktury a AI?

Generativní AI bude transformační v tom, že představuje krokový posun, jaký málokterá technologie za posledních sto let. To, co je dnes možné s hranicemi modelů, jako je OpenAI GPT-5, by bylo před deseti lety nepředstavitelné a překvapivé i před třemi lety.

Ještě jsme na začátku. Má přitažlivost pro mě spočívá v možnosti tvarovat infrastrukturní vrstvu, která určuje, jak taková hluboká technologie bude využita – pro vědu, pro průmysl a pro společnost jako celek.

V AWS jste pomáhal vybudovat Amazon Bedrock. Jaké produktové inženýrské zkušenosti z tohoto projektu aplikujete ve Voltage Park?

Amazon Bedrock přinesl mnoho novinek a jsem opravdu pyšný na to, co tým Bedrock dokázal rychleji dosáhnout. Základní myšlenka Bedrocku spočívala v tom, že stavitelé potřebovali abstrakční vrstvu, která by jim umožnila transparentní výběr modelu a modality – a umožnila jim soustředit se na stavbu řešení místo řízení infrastrukturní složitosti. Byla to první průmyslová platforma, která poskytovala bezproblémový přístup k více základním modelům – text, vidění a multimodální – bez nutnosti, aby týmy navigovaly modelově specifické API nebo hardwarové omezení.

Schopnosti základních modelů se vyvíjejí ohromujícím tempem – rychleji než předchozí technologické posuny, jako je cloud computing, mobilní zařízení nebo dokonce internet sám. Můj tým Bedrock dodal inovace v tomto tempu, předvídaje, kde budou modelové schopnosti za dvě nebo tři generace dopředu a budování pro tuto budoucnost.

Ve Voltage Park aplikujeme stejný princip: Pohybovat se rychle, aby bylo možné dodat špičkovou infrastrukturu a softwarové abstrakce, které řeší dnešní bolestivé body, a inženýrství pro to, kam se technologie bude ubírat a co zákazníci budou potřebovat, až budoucí technologie dorazí.

Jaké byly největší technické a kulturní posuny při přechodu z hyperscaleru na kapitálově efektivní startup, jako je Voltage Park?

V hyperscaléru existuje inženýrství uvnitř rozsáhlého, zavedeného ekosystému – nástrojů, souladu, marketingu, zákaznického doručování – kde celý systém převyšuje součet jeho částí. V startupu si vyměníte tyto příznivé větry za rychlost, soudržnost a dopad. Není zde žádná rozsáhlá byrokracie, která by vás zpomalila, ale není zde ani žádné předem vytvořené scaffolding – musíte si vytvořit své vlastní. Odměnou je kulturní soudržnost a schopnost dodat produkty s vysokým dopadem v zlomek času.

Voltage Park vlastní více než 24 000 H100 GPU a nabízí holý přístup za konkurenceschopné ceny. Jaké zákaznické segmenty jsou vaším primárním cílem?

Naše platforma zahrnuje holý kov, virtuální počítače, spravované Kubernetes, spravované Slurm a komplementární softwarový stack navržen pro AI úlohy. Sloužíme každému, kdo buduje AI produkty nebo buduje s AI: výzkumníkům, startupům a korporacím. Některé z nejsofistikovanějších stavitelů modelů na světě, jako je Cursor, který tlačí hranice strojového učení a inženýrství, trénují své modely na Voltage Park. Podobně mnoho známých AI produktových společností běží inferenční úlohy ve Voltage Park. Pro korporace snižujeme jak náklady, tak prahové hodnoty pro přechod z prototypu na produkci snadno a škálovat úlohy spolehlivě.

Jak zvládáte spotřebu energie, nákladovou efektivitu a udržitelnost, když rozšiřujete svou infrastrukturní stopu?

Učinili jsme a budeme i nadále investovat do významných zlepšení v provozování našich datových center efektivně. Dosáhli jsme významných zisků v spotřebě energie a nákladech díky inovacím, jako je AI poháněná prediktivní údržba, která snižuje prostoj a vyhýbá se plýtvání ve srovnání s reaktivním servisem. Většina našeho současného rozsahu je napájena z 99% obnovitelné a zelené energie, a tento poměr se bude zvyšovat, jak budeme expandovat.

Jak partnerství a standardy formují vývoj Voltage Park jako plnohodnotného poskytovatele AI infrastruktury?

Partnerujeme se společnostmi, které mění AI z teoretické na transformační. Dobrým příkladem je naše investice do Matrice.ai, kde jsme vedli jejich seed expanzi. Jejich odborné znalosti v modelech vidění umožňují našim zákazníkům převést pixely na inteligenci s vertikálně specifickými řešeními napříč několika odvětvími. Budeme i nadále poskytovat AI infrastrukturní páteř pro poskytovatele modelů, aby nasadili své modely v modulárním, integrovaném hardwarovém a softwarovém stacku, který poskytuje výkon bez kompromisů v oblasti zabezpečení nebo ochrany osobních údajů.

Jsme také aktivním přispěvatelem do open-source komunity – podporujeme, například, SGLang jako našeho infrastrukturního partnera, abychom přinesli komunitě vysoce kvalitní, open-source projekty, jako je SpecForge. A jsme se také spojili s Národní vědeckou nadací USA, abychom podpořili pilotní projekt Národního AI výzkumného zdroje (NAIRR), veřejně-soukromou iniciativu, která rozšiřuje přístup k špičkovým AI nástrojům pro výzkumníky a pedagogy na celostátní úrovni.

Jaké podnikové funkce pro správu, auditovatelnost nebo zabezpečení jsou vaším prioritou pro AI vývojáře?

Zabezpečení, ochrana osobních údajů a soulad jsou základními funkcemi naší AI továrny, a naši zákazníci mají jistotu, že pracují s podnikovou třídou. Když budujeme náš softwarový stack, abychom vyřešili další bolestivé body zákazníků, přidáváme funkce, jako jsou jemné oprávnění zdrojů a údajů, hierarchické auditní stopy, bezpečnostní zábrany a bezproblémová integrace s podnikovými datovými kanály, API a agentními rámci. Naším cílem je poskytnout zákazníkům agilitu cloudu s kontrolou on-premises prostředí.

Jakou radu máte pro AI výzkumníky a infrastrukturní týmy, kteří se snaží škálovat efektivně v dnešním výpočetním prostředí?

AI výzkumníkům a společnostem se doporučuje minimalizovat čas strávený řešením infrastrukturních výzev, jelikož jsou nerozlišitelné, a využít vyšších primitiv, jako jsou spravované Kubernetes a Slurm. Vyberte si partnery, kteří nabízejí transparentní ceny, odbornou provozní podporu a výjimečnou inženýrskou odbornost, aby vám pomohli odstranit problémy. Tyto faktory urychlí jak vaši experimentaci, tak vámi škálování.

Kde vidíte Voltage Park za tři roky – dále dolů ve stacku směrem k plnému AI-as-a-service, nebo odbočující do nových oblastí, jako je edge compute?

Tři roky v AI krajině je epocha. Jsme zákaznicky orientovanou společností a za tři roky, stejně jako nyní, se budeme soustředit na reálné zákaznické bolestivé body, ať už v kontextu budování AI produktů nebo konzumace jich. Očekávám, že budeme mít mnohem více sofistikovanosti v šíři a hloubce našeho softwarového stacku a stopu pomoci světovým lídrům urychlit přijetí AI ve velkém měřítku.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Voltage Park.