Saurabh Giri, CPTO van Voltage Park – Interviewreeks

Saurabh Giri fungeert als Chief Product en Technology Officer bij Voltage Park en is een executive director in de raad van bestuur. Hij is verantwoordelijk voor het vormgeven van de strategische visie van het bedrijf, het definiëren van de productroadmap en het leiden van de engineeringoperaties. Eerder leidde Saurabh teams die Amazon (AMZN ) Bedrock bouwden, lanceerden en exploiteerden, Amazon’s platform voor generatieve AI. In een eerder stadium van zijn carrière was Saurabh medeoprichter en CEO van een next-generation betalingsplatform; medeoprichter van een algoritmehandelsfirma die zich specialiseerde in marktmaking en curve-arbitrage in de futuresmarkten; en adviseerde hij raden van bestuur en managementteams over strategie, operaties en financiële aangelegenheden.

Voltage Park’s missie is om bedrijven te helpen hun data om te zetten in bedrijfsinformatie met behulp van AI, door AI-infrastructuur toegankelijk te maken voor iedereen. Met tienduizenden GPUs in zes datacenters biedt Voltage Park wereldklasse hardware en klantenservice tegen een ongekende waarde – ongeacht of de klant een onderzoeker, een startup of een groot bedrijf is.

U hebt gewerkt bij zowel startups als een van ‘s werelds grootste cloudproviders. Wat trok u oorspronkelijk aan in de wereld van infrastructuur en AI?

Generatieve AI zal een transformatieve verandering teweegbrengen op een manier die weinig technologieën in de afgelopen eeuw hebben gedaan. Wat vandaag mogelijk is met frontiermodellen zoals OpenAI’s GPT-5, zou tien jaar geleden ondenkbaar zijn geweest en zelfs drie jaar geleden nog verrassend.

We zijn nog in de vroege fasen. De aantrekkingskracht voor mij is de kans om de infrastructuurlaag te vormen die bepaalt hoe zo’n diepgaande technologie zal worden benut – voor wetenschap, voor industrie en voor de samenleving als geheel.

Bij AWS hielp u bij het bouwen van Amazon Bedrock. Welke productengineeringslessen uit die ervaring past u toe bij Voltage Park?

Amazon Bedrock brak op veel manieren nieuwe grond en ik ben echt trots op wat het Bedrock-team kon bereiken in korte tijd. Bedrock’s kerninzicht was dat bouwers een abstractielaag nodig hadden die modelkeuze en modaliteit transparant maakte – waardoor ze zich konden concentreren op het opbouwen van oplossingen in plaats van infrastructuurscomplexiteit te beheren. Het was het eerste industrieplatform dat naadloze toegang bood tot meerdere foundationmodellen – tekst, visie en multimodaal – zonder dat teams modelspecifieke API’s of hardwarebeperkingen hoefden te navigeren.

De mogelijkheden van foundationmodellen ontwikkelen zich met een verbluffende snelheid – sneller dan eerdere technologische verschuivingen zoals cloudcomputing, mobiel of zelfs het internet. Mijn Bedrock-team bracht innovatie op dat tempo, anticiperend op waar de modelmogelijkheden twee of drie generaties verder zouden zijn en bouwend voor die toekomst.

Bij Voltage Park passen we hetzelfde principe toe: snel bewegen om state-of-the-art-infrastructuur en softwareabstracties te leveren die vandaag’s pijnpunten oplossen, terwijl we engineereren voor waar de technologie naartoe gaat en wat klanten nodig zullen hebben wanneer de toekomstige technologie arriveert.

Wat waren de grootste technische en culturele verschuivingen bij het overstappen van een hyperscaler naar een kapitaal-efficiënte startup zoals Voltage Park?

Bij een hyperscaler bestaat engineering binnen een uitgebreid, volwassen ecosysteem – tooling, compliance, marketing, klantbezorging – waar het geheel meer is dan de som van de delen. In een startup ruilt u die rugwinden in voor snelheid, cohesie en impact. Er is geen uitgebreide bureaucratie die u vertraagt, maar er is ook geen vooraf gebouwd skelet – u moet uw eigen skelet creëren. De beloning is culturele cohesie en de mogelijkheid om hoge-impactproducten te leveren in een fractie van de tijd.

Voltage Park bezit 24.000-plus H100-GPU’s en biedt bare-metaltoegang tegen concurrerende prijzen. Welke klantsegmenten richt u zich voornamelijk op?

Ons platform omvat bare metal, virtuele machines, beheerde Kubernetes, beheerde Slurm en een complementaire softwarestack die is ontworpen voor AI-workloads. We bedienen iedereen die AI-producten bouwt of met AI werkt: onderzoekers, startups en ondernemingen. Sommige van de meest geavanceerde modelbouwers ter wereld, zoals Cursor, die de stand van de wetenschap en de techniek in machine learning pushen, trainen hun modellen op Voltage Park. Evenzo draaien veel bekende AI-productbedrijven inferentieworkloads op Voltage Park. Voor ondernemingen verlagen we zowel de kosten- als de drempel voor expertise om gemakkelijk van prototype naar productie over te gaan en workloads betrouwbaar te schalen.

Hoe beheert u energieverbruik, kostenefficiëntie en duurzaamheid bij het uitbreiden van uw infrastructuurvoetafdruk?

We hebben en blijven aanzienlijke investeringen doen in het efficiënt uitvoeren van onze datacenters. We hebben aanzienlijke verbeteringen behaald in energieverbruik en kosten door innovaties zoals AI-gestuurde voorspellende onderhoud, die downtime vermindert en verspilling voorkomt in vergelijking met reactief onderhoud. Het merendeel van onze huidige voetafdruk wordt aangedreven door 99%-plus hernieuwbare en groene energie, en die verhouding zal toenemen naarmate we uitbreiden.

Hoe vormen partnerships en standaarden de evolutie van Voltage Park als full-stack AI-infrastructuurprovider?

We werken samen met bedrijven die AI van theorie naar transformatie brengen. Een goed voorbeeld is onze investering in Matrice.ai, waar we de seed-expansie leidden. Hun domeinexpertise in visiemodellen stelt onze klanten in staat om pixels om te zetten in inzicht met verticale specifieke oplossingen in meerdere industrieën. We zullen blijven fungeren als de AI-infrastructuurbackbone voor modelaanbieders om hun modellen te implementeren in een modulair, geïntegreerd hardware-softwarestack dat prestaties levert zonder compromissen op het gebied van beveiliging of gegevensprivacy.

We zijn ook een actieve bijdrager aan de open-sourcegemeenschap – ondersteunend, bijvoorbeeld, SGLang als onze infrastructuurpartner om hoogwaardige, open-sourceprojecten zoals SpecForge aan de gemeenschap te brengen. En we hebben een partnerschap met de U.S. National Science Foundation om de National AI Research Resource (NAIRR) pilot te ondersteunen, een publiek-privaatinitiatief om toegang tot cutting-edge AI-hulpmiddelen voor onderzoekers en docenten in het hele land uit te breiden.

Welke ondernemingsklassebeheer-, controleerbaarheids- of beveiligingsfuncties heeft u prioriteit gegeven voor AI-ontwikkelaars?

Beveiliging, gegevensprivacy en compliance zijn fundamentele kenmerken van ons AI-factoryplatform, en onze klanten hebben de zekerheid van werken met een ondernemingsklassestack. Terwijl we onze softwarestack uitbreiden om aanvullende klantpijnpunten aan te pakken, voegen we functies toe zoals granulaire resource- en gegevensmachtigingen, gestaffelde audittrails, veiligheidsbarrières en naadloze integratie met ondernemingsgegevenspijpleidingen, API’s en agentframeworks. Het doel is om klanten de flexibiliteit van de cloud te geven met de controle van een on-prem-omgeving.

Wat is uw advies aan AI-onderzoekers en infrastructuurteams die effectief willen schalen in de huidige compute-beperkte omgeving?

AI-onderzoekers en -bedrijven zouden moeten proberen de tijd die ze besteden aan infrastructuuruitdagingen te minimaliseren, aangezien dit ongedifferentieerd is, en profiteren van hogere-primitieven zoals beheerde Kubernetes en Slurm. Kies partners die transparante prijzen, expertoperationele ondersteuning en uitzonderlijke engineeringsdeskundigheid bieden om problemen op te lossen. Die factoren zullen zowel uw experimenten als uw opschaling versnellen.

Waar ziet u Voltage Park over drie jaar – verder naar beneden in de stack richting full AI-as-a-service, of uitbreidend naar nieuwe gebieden zoals edge-computing?

Drie jaar in het AI-landschap is een tijdperk. We zijn een klantgericht bedrijf en zullen over drie jaar, net als nu, ons richten op echte klantpijnpunten, of het nu gaat om het bouwen van AI-producten of het consumeren ervan. Ik verwacht dat we veel meer sofisticatie zullen hebben in de breedte en diepte van onze softwarestack, en een trackrecord van het helpen van ‘s werelds toonaangevende bedrijven om de adoptie van AI op grote schaal te versnellen.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen Voltage Park bezoeken hier.