Rozhovory

Saurabh Giri, CPTO z Voltage Park – Interview Series

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyInfrastrukturní platforma Voltage Park pro umělou inteligenci slouží výzkumníkům…
Zobrazit více
  • Infrastrukturní platforma Voltage Park pro umělou inteligenci slouží výzkumníkům, startupům a podnikům s desítkami tisíc GPU.
  • Klíčovým postřehem společnosti je budování infrastruktury, která předjímá budoucí schopnosti modelů AI a potřeby zákazníků.
  • Voltage Park upřednostňuje partnerství a open-source příspěvky k rozšíření dostupnosti AI a podnikové bezpečnosti.

Saurabh Giri působí jako Chief Product a Technology Officer ve společnosti Voltage Park a je také výkonným ředitelem jejího představenstva. Je zodpovědný za řízení strategického směru společnosti, definování produktové cesty a řízení inženýrských operací. Předtím vedl Saurabh týmy, které vyvinuly, spustily a provozovaly platformu Amazon (AMZN ) Bedrock, platformu Amazonu pro generativní AI. Na začátku své kariéry Saurabh spoluzaložil a působil jako CEO next-generační platební platformy; spoluzaložil firmu pro algoritmické obchodování specializující se na market making a curve arbitrage na futures trzích; a radil představenstvům a manažerským týmům v oblasti strategie, operací a finančních otázek.

Voltage Park má za cíl pomoci podnikům transformovat data na obchodní inteligenci pomocí AI, a to tak, že zpřístupní AI infrastrukturu všem. S desítkami tisíc GPU napříč šesti datovými centry nabízí Voltage Park špičkové hardwarové a zákaznické služby za úžasné ceny – bez ohledu na to, zda je zákazník výzkumníkem, startupem nebo velkou korporací.

Pracoval jste v obou startupů a jedné z největších cloudových poskytovatelů. Co vás původně přitáhlo do světa infrastruktury a AI?

Generativní AI bude transformační v tom, že představuje krokový posun, jaký málokterá technologie za posledních sto let. To, co je dnes možné s hranicemi modelů, jako je OpenAI GPT-5, by bylo před deseti lety nepředstavitelné a překvapivé i před třemi lety.

Ještě jsme na začátku. Má přitažlivost pro mě spočívá v možnosti tvarovat infrastrukturní vrstvu, která určuje, jak taková hluboká technologie bude využita – pro vědu, pro průmysl a pro společnost jako celek.

V AWS jste pomáhal vybudovat Amazon Bedrock. Jaké produktové inženýrské zkušenosti z tohoto projektu aplikujete ve Voltage Park?

Amazon Bedrock přinesl mnoho novinek a jsem opravdu pyšný na to, co tým Bedrock dokázal rychleji dosáhnout. Základní myšlenka Bedrocku spočívala v tom, že stavitelé potřebovali abstrakční vrstvu, která by jim umožnila transparentní výběr modelu a modality – a umožnila jim soustředit se na stavbu řešení místo řízení infrastrukturní složitosti. Byla to první průmyslová platforma, která poskytovala bezproblémový přístup k více základním modelům – text, vidění a multimodální – bez nutnosti, aby týmy navigovaly modelově specifické API nebo hardwarové omezení.

Schopnosti základních modelů se vyvíjejí ohromujícím tempem – rychleji než předchozí technologické posuny, jako je cloud computing, mobilní zařízení nebo dokonce internet sám. Můj tým Bedrock dodal inovace v tomto tempu, předvídaje, kde budou modelové schopnosti za dvě nebo tři generace dopředu a budování pro tuto budoucnost.

Ve Voltage Park aplikujeme stejný princip: Pohybovat se rychle, aby bylo možné dodat špičkovou infrastrukturu a softwarové abstrakce, které řeší dnešní bolestivé body, a inženýrství pro to, kam se technologie bude ubírat a co zákazníci budou potřebovat, až budoucí technologie dorazí.

Jaké byly největší technické a kulturní posuny při přechodu z hyperscaleru na kapitálově efektivní startup, jako je Voltage Park?

V hyperscaléru existuje inženýrství uvnitř rozsáhlého, zavedeného ekosystému – nástrojů, souladu, marketingu, zákaznického doručování – kde celý systém převyšuje součet jeho částí. V startupu si vyměníte tyto příznivé větry za rychlost, soudržnost a dopad. Není zde žádná rozsáhlá byrokracie, která by vás zpomalila, ale není zde ani žádné předem vytvořené scaffolding – musíte si vytvořit své vlastní. Odměnou je kulturní soudržnost a schopnost dodat produkty s vysokým dopadem v zlomek času.

Voltage Park vlastní více než 24 000 H100 GPU a nabízí holý přístup za konkurenceschopné ceny. Jaké zákaznické segmenty jsou vaším primárním cílem?

Naše platforma zahrnuje holý kov, virtuální počítače, spravované Kubernetes, spravované Slurm a komplementární softwarový stack navržen pro AI úlohy. Sloužíme každému, kdo buduje AI produkty nebo buduje s AI: výzkumníkům, startupům a korporacím. Některé z nejsofistikovanějších stavitelů modelů na světě, jako je Cursor, který tlačí hranice strojového učení a inženýrství, trénují své modely na Voltage Park. Podobně mnoho známých AI produktových společností běží inferenční úlohy ve Voltage Park. Pro korporace snižujeme jak náklady, tak prahové hodnoty pro přechod z prototypu na produkci snadno a škálovat úlohy spolehlivě.

Jak zvládáte spotřebu energie, nákladovou efektivitu a udržitelnost, když rozšiřujete svou infrastrukturní stopu?

Učinili jsme a budeme i nadále investovat do významných zlepšení v provozování našich datových center efektivně. Dosáhli jsme významných zisků v spotřebě energie a nákladech díky inovacím, jako je AI poháněná prediktivní údržba, která snižuje prostoj a vyhýbá se plýtvání ve srovnání s reaktivním servisem. Většina našeho současného rozsahu je napájena z 99% obnovitelné a zelené energie, a tento poměr se bude zvyšovat, jak budeme expandovat.

Jak partnerství a standardy formují vývoj Voltage Park jako plnohodnotného poskytovatele AI infrastruktury?

Partnerujeme se společnostmi, které mění AI z teoretické na transformační. Dobrým příkladem je naše investice do Matrice.ai, kde jsme vedli jejich seed expanzi. Jejich odborné znalosti v modelech vidění umožňují našim zákazníkům převést pixely na inteligenci s vertikálně specifickými řešeními napříč několika odvětvími. Budeme i nadále poskytovat AI infrastrukturní páteř pro poskytovatele modelů, aby nasadili své modely v modulárním, integrovaném hardwarovém a softwarovém stacku, který poskytuje výkon bez kompromisů v oblasti zabezpečení nebo ochrany osobních údajů.

Jsme také aktivním přispěvatelem do open-source komunity – podporujeme, například, SGLang jako našeho infrastrukturního partnera, abychom přinesli komunitě vysoce kvalitní, open-source projekty, jako je SpecForge. A jsme se také spojili s Národní vědeckou nadací USA, abychom podpořili pilotní projekt Národního AI výzkumného zdroje (NAIRR), veřejně-soukromou iniciativu, která rozšiřuje přístup k špičkovým AI nástrojům pro výzkumníky a pedagogy na celostátní úrovni.

Jaké podnikové funkce pro správu, auditovatelnost nebo zabezpečení jsou vaším prioritou pro AI vývojáře?

Zabezpečení, ochrana osobních údajů a soulad jsou základními funkcemi naší AI továrny, a naši zákazníci mají jistotu, že pracují s podnikovou třídou. Když budujeme náš softwarový stack, abychom vyřešili další bolestivé body zákazníků, přidáváme funkce, jako jsou jemné oprávnění zdrojů a údajů, hierarchické auditní stopy, bezpečnostní zábrany a bezproblémová integrace s podnikovými datovými kanály, API a agentními rámci. Naším cílem je poskytnout zákazníkům agilitu cloudu s kontrolou on-premises prostředí.

Jakou radu máte pro AI výzkumníky a infrastrukturní týmy, kteří se snaží škálovat efektivně v dnešním výpočetním prostředí?

AI výzkumníkům a společnostem se doporučuje minimalizovat čas strávený řešením infrastrukturních výzev, jelikož jsou nerozlišitelné, a využít vyšších primitiv, jako jsou spravované Kubernetes a Slurm. Vyberte si partnery, kteří nabízejí transparentní ceny, odbornou provozní podporu a výjimečnou inženýrskou odbornost, aby vám pomohli odstranit problémy. Tyto faktory urychlí jak vaši experimentaci, tak vámi škálování.

Kde vidíte Voltage Park za tři roky – dále dolů ve stacku směrem k plnému AI-as-a-service, nebo odbočující do nových oblastí, jako je edge compute?

Tři roky v AI krajině je epocha. Jsme zákaznicky orientovanou společností a za tři roky, stejně jako nyní, se budeme soustředit na reálné zákaznické bolestivé body, ať už v kontextu budování AI produktů nebo konzumace jich. Očekávám, že budeme mít mnohem více sofistikovanosti v šíři a hloubce našeho softwarového stacku a stopu pomoci světovým lídrům urychlit přijetí AI ve velkém měřítku.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Voltage Park.

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.