Saurabh Giri, CPTO i Voltage Park – Interviewserie

Saurabh Giri fungerer som Chief Product og Technology Officer i Voltage Park og er en eksekutiv direktør i bestyrelsen. Han er ansvarlig for at drive virksomhedens strategiske vision, definere produktvejen og køre ingeniørarbejdet. Tidligere ledede Saurabh hold, der byggede, lancerede og opererede Amazon (AMZN ) Bedrock, Amazons platform for generativ AI. Tidligere i sin karriere co-foundede Saurabh og fungerede som CEO for en næste-generations betalingsplatform; co-foundede en algoritme-handelsfirma, der specialiserede sig i markedsgørelse og kurve-arbitrage på futures-markederne; og rådgav bestyrelser og ledelseshold om strategi, drift og finansielle spørgsmål.

Voltage Parks mission er at hjælpe virksomheder med at omdanne data til forretningsintelligens ved hjælp af AI, ved at gøre AI-infrastruktur tilgængelig for alle. Med titusinder af GPU’er på tværs af seks datacentre tilbyder Voltage Park verdensklasse-hardware og kundeservice til en fantastisk pris – uanset om kunden er en forsker, en startup eller en stor virksomhed.

Hvad var det, der oprindeligt tiltrak dig til verden af infrastruktur og AI?

Generativ AI vil være transformationel på en måde, der kun få teknologier har været i det sidste århundrede. Det, der er muligt i dag med frontier-modeller som OpenAI’s GPT-5, ville have været utænkeligt for ti år siden og overraskende, selv for tre år siden.

Vi er stadig i de tidlige innings. Tiltrækningen for mig er muligheden for at forme infrastruktur-laget, der bestemmer, hvordan en sådan dybdegående teknologi vil blive udnyttet – til videnskab, til industri og til samfundet som helhed.

På AWS hjalp du med at bygge Amazon Bedrock. Hvordan anvender du produkt-ingeniør-oplevelser fra den oplevelse i Voltage Park?

Amazon Bedrock brød ny jord på mange måder, og jeg er rigtig stolt af, hvad Bedrock-holdet var i stand til at opnå hurtigt. Bedrocks kerneidé var, at byggere havde brug for en abstraktionslag, der gjorde modelvalg og modalitet gennemsigtig – og friede dem til at fokusere på at bygge løsninger i stedet for at håndtere infrastruktur-kompleksitet. Det var den første industri-platform, der tilbød ubesværet adgang til multiple foundation-modeller – tekst, vision og multimodal – uden at kræve, at holdene skulle navigere i model-specifikke API’er eller hardware-begrænsninger.

Foundation model-kapaciteter udvikler sig i en fantastisk hastighed – hurtigere end tidligere teknologiske skift som cloud-computing, mobile eller selv internettet. Mit Bedrock-hold leverede innovation i den hastighed, og forudsagde, hvor model-kapaciteter ville være to eller tre generationer fremme og byggede til den fremtid.

I Voltage Park anvender vi samme princip: Flyt hurtigt for at levere avanceret infrastruktur og software-abstraktioner, der løser i dag’s smerte-punkter, mens vi ingeniører til, hvor teknologien er på vej, og hvad kunderne vil have, når fremtidens teknologi ankommer.

Hvad var de største tekniske og kulturelle skift i at gå fra en hyperscaler til en kapital-effektiv startup som Voltage Park?

I en hyperscaler findes ingeniørarbejdet inden for en enorm, moden økosystem – værktøj, overholdelse, marketing, kunde-levering – hvor hele er større end summen af dets dele. I en startup handler du disse halevinde for hastighed, samhold og indvirkning. Der er ingen udbredt bureaukrati, der kan slowe dig ned, men der er heller ingen forhåndsbetonet scaffolding – du må selv skabe din egen. Belønningen er kulturelt samhold og evnen til at levere høj-impact-produkter på en brøkdel af tiden.

Voltage Park ejer 24.000+ H100 GPU’er og tilbyder bare-metal-adgang til konkurrencedygtige priser. Hvilke kundesegmenter er I primært rettet mod?

Vores platform dækker bare metal, virtuelle maskiner, managed Kubernetes, managed Slurm og en komplet software-stack designet til AI-arbejdsbelastninger. Vi betjener alle, der bygger AI-produkter eller bygger med AI: forskere, startups og virksomheder. Nogle af de mest avancerede model-byggere i verden i dag, såsom Cursor, der driver udviklingen af maskinlæringsvidenskab og -ingeniørarbejde, træner deres modeller på Voltage Park. Ligeledes kører mange velkendte AI-produkt-virksomheder inference-arbejdsbelastninger på Voltage Park. For virksomheder sænker vi både omkostnings- og ekspertise-tærsklerne for at gå fra prototype til produktion let og skala arbejdsbelastninger pålideligt.

Hvordan håndterer I strømforbrug, omkostnings-effektivitet og bæredygtighed, mens I udvider jeres infrastruktur-fodaftryk?

Vi har investeret og fortsætter med at investere betydeligt i at køre vores datacentre effektivt. Vi har opnået og fortsætter med at opnå betydelige gevinster i strømforbrug og omkostninger gennem innovationer såsom AI-drevet prædictivt vedligehold, der reducerer downtime og undgår spild i forhold til reaktivt vedligehold. Det meste af vores nuværende fodaftryk er drevet af 99%+ fornybar og grøn energi, og denne ratio vil vokse, mens vi udvider.

Hvordan former partnerskaber og standarder Voltage Parks udvikling som en fuld-stack AI-infrastruktur-udbyder?

Vi samarbejder med virksomheder, der flytter AI fra teoretisk til transformationel. Et godt eksempel er vores investering i Matrice.ai, hvor vi ledede deres seed-udvidelse. Deres domæne-ekspertise i vision-modeller giver vores kunder mulighed for at konvertere pixels til intelligens med vertikale-specifikke løsninger på tværs af flere industrier. Vi vil fortsætte med at give AI-infrastruktur-rygningen til model-udbydere for at deployere deres modeller i en modulær, integreret hardware-software-stack, der leverer ydelse uden at kompromittere med sikkerhed eller data-integritet.

Vi er også en aktiv bidrager til open-source-fællesskabet – støtter f.eks. SGLang som vores infrastruktur-partner for at bringe høj-kvalitets, open-source-projekter som SpecForge til fællesskabet. Og vi har samarbejdet med den amerikanske National Science Foundation for at støtte National AI Research Resource (NAIRR) piloten, en offentlig-private initiativ for at udvide adgangen til avancerede AI-værktøjer for forskere og undervisere på landsplan.

Hvordan prioriterer I virksomheds-klasse ledelse, gennemsigtighed eller sikkerhedsfunktioner for AI-udviklere?

Sikkerhed, data-integritet og overholdelse er grundlæggende funktioner i vores AI-fabrik-platform, og vores kunder har ro i sindet ved at arbejde med en virksomheds-klasse-stack. Mens vi bygger vores software-stack ud for at løse yderligere kunde-smerte-punkter, tilføjer vi funktioner såsom granuleret ressource- og data-tilladelser, trin-for-trin-audit-spor, sikkerheds-forhøjelser og ubesværet integration med virksomheds-data-pipelines, API’er og agent-rammer. Målet er at give kunderne agilityen fra skyen med kontrollen fra en on-prem-miljø.

Hvad er din råd til AI-forskere og infrastruktur-hold, der sigter mod at skala effektivt i dag’s compute-begrænsede miljø?

AI-forskere og -virksomheder bør prøve at minimere den tid, de bruger på at håndtere infrastruktur-udfordringer, da det er ukarakteristisk, og tage fordel af højere-niveau-primitiver såsom managed Kubernetes og Slurm. Vælg partnere, der tilbyder gennemsigtige priser, ekspert-operativt support og exceptionel ingeniør-ekspertise for at hjælpe med at fejlfinde problemer. Disse faktorer vil accelerere både jeres eksperimenter og jeres opskalering.

Hvor ser du Voltage Park om tre år – længere nede i stakken mod fuld AI-as-a-service eller grenende ud i nye områder som edge-compute?

Tre år i AI-landskabet er en epoke. Vi er en kunde-først-virksomhed og vil i tre år, som nu, fokusere på virkelige kunde-smerte-punkter, enten i konteksten af at bygge AI-produkter eller forbruge dem. Jeg forventer, at vi vil have langt mere sofistikerede software-stak og en track-record for at hjælpe verdens førende virksomheder med at accelerere AI-adoptionshastighed i skala.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Voltage Park.