Saurabh Giri, CPTO van Voltage Park – Interview Serie

Saurabh Giri fungeert als Chief Product en Technology Officer bij Voltage Park en is een executive director in de raad van bestuur. Hij is verantwoordelijk voor het stimuleren van de strategische visie van het bedrijf, het definiëren van de productroadmap en het uitvoeren van engineeringsoperaties. Eerder leidde Saurabh teams die Amazon Bedrock hebben gebouwd, gelanceerd en geëxploiteerd, het platform van Amazon voor generatieve AI. Vroeger in zijn carrière was Saurabh mede-oprichter en CEO van een next-generation betalingsplatform; mede-oprichter van een algoritme trading bedrijf dat zich specialiseerde in market making en curve arbitrage in de futures markten; en adviseerde hij raden van bestuur en management teams over strategie, operaties en financiële aangelegenheden.

Voltage Park’s missie is om bedrijven te helpen bij het transformeren van gegevens in bedrijfsinformatie met behulp van AI, door AI-infrastructuur toegankelijk te maken voor iedereen. Met tienduizenden GPUs in zes datacenters biedt Voltage Park wereldklasse hardware en klantenservice tegen een ongekende waarde – ongeacht of de klant een onderzoeker, een startup of een groot bedrijf is.

U hebt gewerkt bij zowel startups als een van ‘s werelds grootste cloudproviders. Wat trok u oorspronkelijk aan naar de wereld van infrastructuur en AI?

Generatieve AI zal op een stapsgewijze manier transformatief zijn, zoals weinig technologieën in de afgelopen eeuw. Wat vandaag mogelijk is met frontiermodellen zoals OpenAI’s GPT-5, zou tien jaar geleden ondenkbaar zijn geweest en zelfs drie jaar geleden verrassend.

We zijn nog in de vroege stadia. De aantrekkingskracht voor mij is de kans om de infrastructuurlaag te vormen die bepaalt hoe zo’n diepgaande technologie zal worden benut – voor wetenschap, voor industrie en voor de samenleving als geheel.

Bij AWS hielp u bij het bouwen van Amazon Bedrock. Welke productengineeringlessen uit die ervaring past u toe bij Voltage Park?

Amazon Bedrock brak op veel manieren nieuwe grond en ik ben echt trots op wat het Bedrock-team kon bereiken in korte tijd. Bedrock’s kerninzicht was dat ontwikkelaars een abstractielaag nodig hadden die modelkeuze en modaliteit transparant maakte – waardoor ze zich konden concentreren op het oplossen van problemen in plaats van infrastructuurscomplexiteit te beheren. Het was het eerste industrieplatform dat naadloze toegang bood tot meerdere foundationmodellen – tekst, visie en multimodaal – zonder dat teams modelspecifieke API’s of hardwarebeperkingen hoefden te navigeren.

Foundation modelmogelijkheden ontwikkelen zich in een verbazingwekkend tempo – sneller dan eerdere technologische verschuivingen zoals cloud computing, mobiel of zelfs het internet. Mijn Bedrock-team bracht innovatie op dat tempo, anticiperend op waar modelmogelijkheden twee of drie generaties vooruit zouden zijn en bouwend voor die toekomst.

Bij Voltage Park passen we hetzelfde principe toe: Snel bewegen om cutting-edge infrastructuur en software-abstraheringen te leveren die vandaag’s pijnpunten oplossen, terwijl we engineereren voor waar de technologie naartoe gaat en wat klanten nodig zullen hebben als de toekomstige technologie arriveert.

Wat waren de grootste technische en culturele verschuivingen bij het verhuizen van een hyperscaler naar een kapitaal-efficiënte startup zoals Voltage Park?

Bij een hyperscaler bestaat engineeringswerk binnen een uitgebreid, volwassen ecosysteem – tooling, compliance, marketing, klantbezorging – waar het geheel meer is dan de som van zijn delen. In een startup ruilt u die rugwinden voor snelheid, cohesie en impact. Er is geen uitgebreide bureaucratie om u te vertragen, maar er is ook geen vooraf gebouwd skelet – u moet uw eigen skelet creëren. De beloning is culturele cohesie en de mogelijkheid om hoge-impactproducten te verzenden in een fractie van de tijd.

Voltage Park bezit 24.000-plus H100 GPU’s en biedt bare-metaltoegang tegen concurrerende prijzen. Welke klantsegmenten richt u zich voornamelijk op?

Ons platform omvat bare metal, virtuele machines, beheerde Kubernetes, beheerde Slurm en een complementaire softwarestack ontworpen voor AI-werklasten. We dienen iedereen die AI-producten bouwt of met AI werkt: onderzoekers, startups en ondernemingen. Sommige van de meest geavanceerde modelbouwers ter wereld, zoals Cursor, die de stand van de wetenschap en de techniek op het gebied van machine learning pushen, trainen hun modellen op Voltage Park. Evenzo draaien veel bekende AI-productbedrijven inferentiewerklasten op Voltage Park. Voor ondernemingen verlagen we zowel de kosten als de drempel voor expertise om gemakkelijk van prototype naar productie over te gaan en werklasten betrouwbaar te schalen.

Hoe beheert u stroomverbruik, kostenefficiëntie en duurzaamheid terwijl u uw infrastructuurfootprint uitbreidt?

We hebben en blijven aanzienlijke investeringen doen in het efficiënt uitvoeren van onze datacenters. We hebben aanzienlijke verbeteringen behaald in stroomverbruik en kosten door innovaties zoals AI-gestuurde voorspellende onderhoud, die downtime vermindert en verspilling voorkomt in vergelijking met reactief onderhoud. Het merendeel van onze huidige footprint wordt gegenereerd door 99%+ hernieuwbare en groene energie, en die verhouding zal toenemen naarmate we uitbreiden.

Hoe vormen partnerships en standaarden de evolutie van Voltage Park als een full-stack AI-infrastructuurprovider?

We werken samen met bedrijven die AI van theorie naar transformatie brengen. Een goed voorbeeld is onze investering in Matrice.ai, waar we de seed-expansie leidden. Hun domeinexpertise in visiemodellen stelt onze klanten in staat om pixels om te zetten in inzicht met verticaal-specifieke oplossingen in meerdere industrieën. We zullen blijven voorzien in de AI-infrastructuur-ruggegraat voor modelaanbieders om hun modellen te implementeren in een modulair, geïntegreerd hardware-software-stack dat prestaties levert zonder compromissen op het gebied van beveiliging of gegevensprivacy.

We zijn ook een actieve contributor aan de open-source-gemeenschap – ondersteunend, bijvoorbeeld, SGLang als onze infrastructuurpartner om high-kwaliteit, open-source-projecten zoals SpecForge naar de gemeenschap te brengen. En we hebben een partnership met de U.S. National Science Foundation om de National AI Research Resource (NAIRR) pilot te ondersteunen, een publiek-privaat initiatief om toegang tot cutting-edge AI-hulpmiddelen voor onderzoekers en docenten in het hele land uit te breiden.

Welke ondernemingsklassebeheer-, controleerbaarheids- of beveiligingsfuncties heeft u prioriteit gegeven voor AI-ontwikkelaars?

Beveiliging, gegevensprivacy en compliance zijn fundamentale kenmerken van ons AI-factory-platform, en onze klanten hebben de zekerheid van werken met een ondernemingsklasse-stack. Terwijl we onze softwarestack uitbreiden om aanvullende klantpijnpunten aan te pakken, voegen we functies toe zoals granulaire middelen- en gegevensmachtigingen, gestapelde audit-trails, veiligheidsbarrières en naadloze integratie met ondernemingsgegevenspijpleidingen, API’s en agentframeworks. Het doel is om klanten de wendbaarheid van de cloud te geven met de controle van een on-prem-omgeving.

Wat is uw advies voor AI-onderzoekers en infrastructuurteams die effectief willen schalen in de huidige compute-beperkte omgeving?

AI-onderzoekers en -bedrijven zouden moeten proberen de tijd die ze besteden aan het omgaan met infrastructuuruitdagingen te minimaliseren, aangezien dit ongedifferentieerd is, en profiteren van hogere niveau-primitieven zoals beheerde Kubernetes en Slurm. Kies partners die transparante prijzen, expert operationele ondersteuning en uitzonderlijke engineeringsdeskundigheid bieden om problemen op te lossen. Die factoren zullen zowel uw experimenten als uw opschaling versnellen.

Waar ziet u Voltage Park over drie jaar – verder naar beneden in de stack richting full AI-as-a-service, of uitbreidend naar nieuwe gebieden zoals edge compute?

Drie jaar in de AI-landschap is een tijdperk. We zijn een klantgericht bedrijf en zullen over drie jaar, net als nu, ons richten op echte klantpijnpunten, of het nu gaat om het bouwen van AI-producten of het gebruiken ervan. Ik verwacht dat we over drie jaar veel meer sofisticatie zullen hebben in de breedte en diepte van onze softwarestack, en een trackrecord van helpen van ‘s werelds toonaangevende bedrijven om de adoptie van AI op schaal te versnellen.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten bezoeken Voltage Park.