Saurabh Giri, CPTO fra Voltage Park – Interviewserie

Saurabh Giri fungerer som Chief Product and Technology Officer hos Voltage Park og er administrerende direktør i bestyrelsen. Han er ansvarlig for at drive virksomhedens strategiske vision, definere dens produktkøreplan og drive tekniske operationer. Tidligere ledte Saurabh teams, der byggede, lancerede og drev Amazon Bedrock, Amazons platform for generativ AI. Tidligere i sin karriere var Saurabh medstifter af og administrerende direktør for en næste generations betalingsplatform; medstifter af et algoritmisk handelsfirma med speciale i market making og curve arbitrage på futuresmarkederne; og rådgav bestyrelser og ledelsesteams om strategi, drift og økonomiske anliggender.

Voltage Parks Missionen er at hjælpe virksomheder med at transformere data til business intelligence ved hjælp af AI ved at gøre AI-infrastruktur tilgængelig for alle. Med titusindvis af GPU'er på tværs af seks datacentre tilbyder Voltage Park hardware og kundeservice i verdensklasse til en utrolig værdi – uanset om kunden er en forsker, en startup eller en stor virksomhed.

Du har arbejdet hos både startups og en af verdens største cloud-udbydere. Hvad tiltrak dig oprindeligt til infrastrukturens og AI's verden?

Generativ AI vil være transformerende på en måde, som få teknologier har gjort i det sidste århundrede. Hvad der er muligt i dag med frontlinjemodeller som OpenAI's GPT-5 ville have været utænkeligt for ti år siden og overraskende for selv tre år siden.

Vi er stadig i den tidlige fase. Det, der tiltrækker mig, er muligheden for at forme det infrastrukturlag, der bestemmer, hvordan en så dybtgående teknologi vil blive udnyttet – for videnskaben, for industrien og for samfundet som helhed.

Hos AWS hjalp du med at opbygge Amazon Bedrock. Hvilke produktudviklingsmæssige erfaringer fra den oplevelse anvender du hos Voltage Park.

Amazon Bedrock var banebrydende på mange måder, og jeg er virkelig stolt af, hvad Bedrock-teamet formåede at opnå hurtigt. Bedrocks kerneindsigt var, at bygherrer havde brug for et abstraktionslag, der gjorde modelvalg og modalitet transparent – hvilket frigjorde dem til at fokusere på at bygge løsninger i stedet for at styre infrastrukturens kompleksitet. Det var den første brancheplatform, der gav problemfri adgang til flere fundamentsmodeller – tekst, vision og multimodal – uden at teams skulle navigere i modelspecifikke API'er eller hardwarebegrænsninger.

Fundamentsmodellens muligheder udvikler sig med et svimlende tempo – hurtigere end tidligere teknologiske skift som cloud computing, mobil eller endda internettet selv. Mit Bedrock-team leverede innovation med den hastighed, idet vi forudså, hvor modelmulighederne ville være to eller tre generationer foran, og byggede til den fremtid.

Hos Voltage Park anvender vi det samme princip: Vi bevæger os hurtigt for at levere banebrydende infrastruktur og softwareabstraktioner, der løser nutidens smertepunkter, samtidig med at vi udvikler teknologiens retning og hvad kunderne får brug for, når fremtidens teknologi kommer.

Hvad var de største tekniske og kulturelle ændringer i overgangen fra en hyperscaler til en kapitaleffektiv startup som Voltage Park?

I en hyperscaler eksisterer ingeniørvirksomheden i et enormt, modent økosystem – værktøjer, compliance, marketing, kundeservice – hvor helheden overstiger summen af delene. I en startup bytter man disse medvindsmuligheder ud med hastighed, sammenhæng og effekt. Der er intet omfattende bureaukrati til at bremse dig, men der er heller ingen præbyggede stilladser – du er nødt til at skabe dit eget. Belønningen er kulturel sammenhængskraft og evnen til at levere produkter med stor effekt på en brøkdel af tiden.

Voltage Park ejer mere end 24,000 H100 GPU'er og tilbyder bare-metal adgang til konkurrencedygtige priser. Hvilke kundesegmenter henvender I jer primært til?

Vores platform spænder over bare metal, virtuelle maskiner, administreret Kubernetes, administreret Slurm og en komplementær softwarestak designet til AI-arbejdsbelastninger. Vi betjener alle, der bygger AI-produkter eller bygger med AI: forskere, startups og virksomheder. Nogle af de mest sofistikerede modelbyggere i verden i dag, såsom Cursor, der fremmer den nyeste teknologi inden for maskinlæringsvidenskab og -teknik, træner deres modeller på Voltage Park. Tilsvarende kører mange kendte AI-produktvirksomheder inferensarbejdsbelastninger på Voltage Park. For virksomheder sænker vi både omkostnings- og ekspertisegrænserne for nemt at kunne gå fra prototype til produktion og skalere arbejdsbelastninger pålideligt.

Hvordan styrer I strømforbrug, omkostningseffektivitet og bæredygtighed, når I skalerer jeres infrastruktur?

Vi har foretaget og fortsætter med at foretage betydelige investeringer i effektiv drift af vores datacentre. Vi har opnået betydelige gevinster i strømforbrug og omkostninger gennem innovationer såsom AI-drevet prædiktiv vedligeholdelse, som reducerer nedetid og undgår spild sammenlignet med reaktiv service. Størstedelen af vores nuværende fodaftryk drives af over 99 % vedvarende og grøn energi, og dette forhold vil vokse i takt med at vi ekspanderer.

Hvordan former partnerskaber og standarder Voltage Parks udvikling som en full-stack leverandør af AI-infrastruktur?

Vi samarbejder med virksomheder, der bevæger AI fra teoretisk til transformativt. Et godt eksempel er vores investering i Matrice.ai, hvor vi stod i spidsen for deres vækstproces. Deres domæneekspertise inden for visionsmodeller gør det muligt for vores kunder at konvertere pixels til intelligens med vertikalt specifikke løsninger på tværs af flere brancher. Vi vil fortsat levere AI-infrastrukturens rygraden til modeludbydere, så de kan implementere deres modeller i en modulær, integreret hardware-software-stak, der leverer ydeevne uden at gå på kompromis med sikkerhed eller databeskyttelse.

Vi bidrager også aktivt til open source-fællesskabet – vi støtter f.eks. SGLang som deres infrastrukturpartner for at bringe open source-projekter af høj kvalitet som SpecForge til fællesskabet. Og vi har indgået et partnerskab med den amerikanske National Science Foundation for at støtte pilotprojektet National AI Research Resource (NAIRR), et offentligt-privat initiativ, der har til formål at udvide adgangen til banebrydende AI-værktøjer for forskere og undervisere over hele landet.

Hvilke funktioner til administration, revisionsbarhed eller sikkerhedsfunktioner i virksomhedsklassen prioriterer I for AI-udviklere?

Sikkerhed, databeskyttelse og overholdelse af regler er grundlæggende funktioner i vores AI-fabriksplatform, og vores kunder har ro i sindet ved at arbejde med en virksomhedsbaseret stak. Efterhånden som vi udbygger vores softwarestak for at håndtere yderligere kunders smertepunkter, tilføjer vi funktioner som detaljerede ressource- og datatilladelser, niveauopdelte revisionsspor, sikkerhedsforanstaltninger og problemfri integration med virksomhedens datapipelines, API'er og agentframeworks. Målet er at give kunderne cloudens fleksibilitet med kontrollen over et on-prem-miljø.

Hvilke råd har du til AI-forskere og infrastrukturteams, der sigter mod at skalere effektivt i nutidens computerbegrænsede miljø?

AI-forskere og -virksomheder bør forsøge at minimere den tid, de bruger på at håndtere infrastrukturudfordringer, da det er udifferentieret, og drage fordel af primitiver på højere niveau såsom administreret Kubernetes og Slurm. Vælg partnere, der tilbyder transparente priser, ekspert operationel support og exceptionel teknisk ekspertise til at hjælpe med at fejlfinde problemer. Disse faktorer vil accelerere både din eksperimentering og din opskalering.

Hvor ser du Voltage Park være om tre år – længere nede i stakken mod fuld AI-as-a-service, eller forgrener det sig til nye områder som edge computing?

Tre år i AI-landskabet er en epoke. Vi er en kundeorienteret virksomhed, og om tre år, ligesom nu, vil vi fokusere på kundernes smertepunkter i den virkelige verden, hvad enten det er i forbindelse med at udvikle AI-produkter eller forbruge dem. Jeg forventer, at vi vil have langt mere sofistikerede bredde- og dybdegående løsninger på vores softwarepakke, og en historik med at hjælpe verdens førende virksomheder med at accelerere implementeringen af AI i stor skala.

Tak for det gode interview, læsere, der ønsker at lære mere, bør besøge Spændingspark.