Saurabh Giri, CPTO på Voltage Park – Intervju-serie

Saurabh Giri är Chief Product och Technology Officer på Voltage Park och är en verkställande direktör i dess styrelse. Han ansvarar för att driva företagets strategiska vision, definiera dess produktväg och driva ingenjörsverksamheten. Tidigare ledde Saurabh team som byggde, lanserade och drev Amazon (AMZN ) Bedrock, Amazons plattform för generativ AI. Tidigare i sin karriär var Saurabh med och grundade och var VD för en nästa generations betalningsplattform; med och grundade en algoritmisk handelsfirma som specialiserade sig på marknadsföring och kurv-arbitrage på futures-marknaden; och rådde styrelser och ledningsgrupper om strategi, verksamhet och finansiella frågor.

Voltage Parks mission är att hjälpa företag att omvandla data till affärsintelligens med hjälp av AI, genom att göra AI-infrastruktur tillgänglig för alla. Med tiotusentals GPU:er i sex datacenter erbjuder Voltage Park världsklassens hårdvara och kundservice till en otrolig värde – oavsett om kunden är en forskare, ett startup-företag eller ett stort företag.

Du har arbetat på både startup-företag och en av världens största molntjänstleverantörer. Vad var det som ursprungligen drog dig till världen av infrastruktur och AI?

Generativ AI kommer att vara transformationell på ett sätt som få teknologier har varit under de senaste hundra åren. Vad som är möjligt idag med frontlinjens modeller som OpenAI:s GPT-5 skulle ha varit otänkbart för tio år sedan och förvånansvärt även för tre år sedan.

Vi är fortfarande i de tidiga skedena. Det som lockar mig är möjligheten att forma infrastrukturlagret som bestämmer hur en sådan djupgående teknologi kommer att utnyttjas – för vetenskap, för industri och för samhället i stort.

På AWS hjälpte du till att bygga Amazon Bedrock. Vilka produktutvecklingslärdomar från den erfarenheten tillämpar du på Voltage Park?

Amazon Bedrock bröt ny mark på många sätt, och jag är mycket stolt över vad Bedrock-teamet kunde uppnå snabbt. Bedrocks kärninsikt var att byggare behövde en abstraktionslager som gjorde modellval och modalitet transparent – och fria dem att fokusera på att bygga lösningar snarare än att hantera infrastrukturkomplexitet. Det var den första branschplattformen som erbjöd sömlös åtkomst till flera grundmodeller – text, vision och multimodal – utan att kräva att teamen navigerade modellspecifika API:er eller hårdvarubegränsningar.

Grundmodellens kapaciteter utvecklas i en hisnande takt – snabbare än tidigare teknologiska skiften som molntjänster, mobila enheter eller till och med internet självt. Mitt Bedrock-team levererade innovation i den takten, förutspådde var modellkapaciteterna skulle vara två eller tre generationer framöver och byggde för den framtiden.

På Voltage Park tillämpar vi samma princip: Flytta snabbt för att leverera toppmoderna infrastruktur och programvaruabstraktioner som löser dagens smärtor samtidigt som vi bygger för vart teknologin är på väg och vad kunderna kommer att behöva när framtiden kommer.

Vilka var de största tekniska och kulturella förändringarna när du gick från en hyperskalerare till ett kapital-effektivt startup-företag som Voltage Park?

På en hyperskalerare existerar ingenjörskap inom ett moget ekosystem – verktyg, regelefterlevnad, marknadsföring, kundleverans – där helheten överträffar summan av delarna. I ett startup-företag handlar du dessa svansar för hastighet, sammanhållning och påverkan. Det finns ingen växande byråkrati som kan sakta ner dig, men det finns heller ingen färdigbyggd ställning – du måste skapa din egen. Belöningen är kulturell sammanhållning och förmågan att leverera högpresterande produkter på en bråkdel av tiden.

Voltage Park äger 24 000-plus H100-GPU:er och erbjuder bar metallåtkomst till konkurrenskraftiga priser. Vilka kundsegment riktar ni er främst till?

Vår plattform omfattar bar metall, virtuella maskiner, hanterad Kubernetes, hanterad Slurm och en kompletterande programvarustack som är utformad för AI-arbetsbelastningar. Vi betjänar alla som bygger AI-produkter eller bygger med AI: forskare, startup-företag och företag. Några av de mest avancerade modellbyggarna i världen idag, som Cursor, som driver utvecklingen av maskinlärning och ingenjörsvetenskap, utbildar sina modeller på Voltage Park. Likaså kör många kända AI-produktföretag inferensarbetsbelastningar på Voltage Park. För företag sänker vi både kostnaden och expertis-tröskeln för att gå från prototyp till produktion lätt och skala arbetsbelastningar på ett tillförlitligt sätt.

Hur hanterar ni elförbrukning, kostnadseffektivitet och hållbarhet när ni utökar er infrastruktur?

Vi har gjort och fortsätter att göra betydande investeringar i att driva våra datacenter effektivt. Vi har utvecklat betydande vinster i elförbrukning och kostnad genom innovationer som AI-driven prediktiv underhåll, som minskar nedtid och undviker slöseri jämfört med reaktivt underhåll. Merparten av vår nuvarande infrastruktur drivs av 99-procentigt förnybar och grön energi, och den andelen kommer att öka när vi expanderar.

Hur formas Voltage Parks utveckling som en fullständig AI-infrastrukturleverantör av partnerskap och standarder?

Vi samarbetar med företag som flyttar AI från teoretiskt till transformationellt. Ett bra exempel är vår investering i Matrice.ai, där vi ledde deras ursprungliga expansion. Deras domänkompetens inom visionsmodeller möjliggör för våra kunder att omvandla pixlar till intelligens med vertikala lösningar över flera branscher. Vi kommer att fortsätta att tillhandahålla AI-infrastrukturbasen för modellleverantörer för att distribuera sina modeller i en modulär, integrerad hårdvaru-programvarustack som levererar prestanda utan att kompromissa med säkerhet eller dataskydd.

Vi är också en aktiv bidragsgivare till den öppna källkods-gemenskapen – stödjer till exempel SGLang som vår infrastrukturpartner för att ta med högkvalitativa, öppna källkodsprojekt som SpecForge till gemenskapen. Och vi har samarbetat med den amerikanska nationella vetenskapsstiftelsen för att stödja den nationella AI-forskningsresursen (NAIRR) piloten, en offentlig-privat initiativ för att utöka tillgången till toppmoderna AI-verktyg för forskare och utbildare i hela landet.

Vilka företagsklassade hanterings-, gransknings- eller säkerhetsfunktioner prioriterar ni för AI-utvecklare?

Säkerhet, dataskydd och regelefterlevnad är grundläggande funktioner i vår AI-fabriksplattform, och våra kunder har tryggheten att arbeta med en företagsklassad stack. När vi bygger ut vår programvarustack för att hantera ytterligare kundsmärtor lägger vi till funktioner som granulära resurs- och datap behörigheter, nivåindelade granskningsloggar, säkerhetsräcken och sömlös integration med företagsdata-pipelines, API:er och agent-ramverk. Målet är att ge kunderna molnets agility med kontrollen av en lokal miljö.

Vad är era råd till AI-forskare och infrastrukturteam som syftar till att skala effektivt i dagens beräkningsbegränsade miljö?

AI-forskare och företag bör försöka minimera den tid de tillbringar med att hantera infrastrukturutmaningar, eftersom det är odifferentierat, och dra nytta av högre nivåprimitiver som hanterad Kubernetes och Slurm. Välj partners som erbjuder transparent prissättning, expertdriven operativt stöd och exceptionell ingenjörsexpertis för att hjälpa till att felsöka problem. Dessa faktorer kommer att påskynda både er experiment och er skala.

Var ser du Voltage Park om tre år – längre ner i stacken mot fullständig AI-tjänst eller grenar in i nya områden som edge-beräkning?

Tre år i AI-landskapet är en epok. Vi är ett kundförst-företag och om tre år, liksom nu, kommer vi att fokusera på verkliga kundsmärtor, antingen i sammanhanget med att bygga AI-produkter eller konsumera dem. Jag förväntar mig att vi kommer att ha mycket mer sofistikerad programvarustack och en spårning av att ha hjälpt världens ledande företag att accelerera AI-antagandet i stor skala.

Tack för det underbara samtalet, läsare som vill lära sig mer kan besöka Voltage Park.