Saurabh Giri, CPTO of Voltage Park – Interview Series

Saurabh Giri pełni funkcję Chief Product and Technology Officer w Voltage Park i jest dyrektorem wykonawczym w jego zarządzie. Jest odpowiedzialny za napędzanie strategicznej wizji spółki, definiowanie jej mapy produktowej oraz zarządzanie operacjami inżynieryjnymi. Wcześniej Saurabh kierował zespołami, które budowały, uruchamiały i obsługiwały Amazon Bedrock, platformę Amazon dla generatywnego AI. Na początku swojej kariery Saurabh współzałożył i pełnił funkcję CEO platformy płatniczej następnej generacji; współzałożył firmę handlu algorytmicznego specjalizującą się w tworzeniu rynku i arbitrażu krzywej w rynkach futures; oraz doradzał zarządom i zespołom kierowniczym w kwestiach strategii, operacji i spraw finansowych.

Voltage Park ma na celu pomóc przedsiębiorstwom w przekształceniu danych w inteligencję biznesową za pomocą AI, poprzez udostępnienie infrastruktury AI wszystkim. Z dziesiątkami tysięcy GPU w sześciu centrach danych, Voltage Park oferuje światowej klasy sprzęt i obsługę klienta w niewiarygodnej cenie – niezależnie od tego, czy klient jest badaczem, startupem, czy dużym przedsiębiorstwem.

Czy mogłbyś powiedzieć, co Cię pierwotnie skierowało ku światu infrastruktury i AI?

Generatywne AI będzie przełomowe w sposób, który tylko nieliczne technologie miały w ciągu ostatniego stulecia. To, co jest możliwe dzisiaj z pomocą modeli pionierskich, takich jak OpenAI’s GPT-5, było nie do pomyślenia dziesięć lat temu i zaskakujące nawet trzy lata temu.

Jeszcze jesteśmy na wczesnym etapie. Pociąga mnie możliwość kształtowania warstwy infrastruktury, która określa, w jaki sposób taka głęboka technologia będzie wykorzystywana – dla nauki, dla przemysłu i dla społeczeństwa jako całości.

W AWS, pomogłeś zbudować Amazon Bedrock. Jakie lekcje inżynierii produktowej z tego doświadczenia stosujesz w Voltage Park?

Amazon Bedrock przełamał wiele barier, i jestem naprawdę dumny z tego, co zespół Bedrock był w stanie osiągnąć szybko. Podstawową intuicją Bedrock było to, że budowniczowie potrzebowali warstwy abstrakcji, która uczyniłaby wybór modelu i modalności transparentnym – uwalniając ich od koncentrowania się na budowaniu rozwiązań zamiast zarządzania złożonością infrastruktury. Była to pierwsza branżowa platforma, która zapewniała bezproblemowy dostęp do wielu modeli podstawowych – tekst, wizja i multimodalna – bez wymagania od zespołów nawigowania w modelach specyficznych dla API lub ograniczeń sprzętowych.

Możliwości modeli podstawowych rozwijają się w oszałamiającym tempie – szybciej niż wcześniejsze przesunięcia technologiczne, takie jak obliczenia w chmurze, mobilne lub nawet internet sam w sobie. Mój zespół Bedrock wprowadzał innowacje w tym tempie, przewidując, gdzie możliwości modeli będą za dwa lub trzy generacje i budując dla tego przyszłego stanu.

W Voltage Park stosujemy ten sam принцип: Poruszaj się szybko, aby dostarczyć infrastrukturę i abstrakcje oprogramowania, które rozwiązują bieżące bóle głowy, jednocześnie inżynierią dla miejsca, gdzie technologia jest skierowana i czego klienci będą potrzebować, gdy przyjdzie technologia przyszłości.

Jakie były największe techniczne i kulturowe przesunięcia w przejściu z hyperscalera do startupu o wydajności kapitałowej, takiego jak Voltage Park?

W hyperscalerze inżynieria istnieje wewnątrz ogromnego, dojrzałego ekosystemu – toolingu, zgodności, marketingu, dostawy klienta – gdzie całość przewyższa sumę części. W startupie wymieniasz te wiatry na korzyść na prędkość, spójność i wpływ. Nie ma rozprzestrzenionej biurokracji, która by Cię spowalniała, ale nie ma również prefabrykowanego rusztowania – musisz je stworzyć sam. Nagrodą jest spójność kulturowa i możliwość wysyłania produktów o wysokim wpływie w ułamku czasu.

Voltage Park posiada ponad 24 000 GPU H100 i oferuje dostęp do metalu bezpośrednio po konkurencyjnych cenach. Jakie segmenty klientów są głównie targetowane?

Nasza platforma obejmuje metal bezpośredni, maszyny wirtualne, zarządzane Kubernetes, zarządzane Slurm i komplementarny stos oprogramowania zaprojektowanego dla obciążeń AI. Obsługujemy każdego, kto buduje produkty AI lub buduje z AI: badaczy, startupy i przedsiębiorstwa. Niektórzy z najbardziej zaawansowanych budowniczych modeli na świecie dzisiaj, tacy jak Cursor, którzy są pionierami w nauce i inżynierii maszynowej, trenują swoje modele na Voltage Park. Podobnie, wiele znanych firm AI uruchamia obciążenia inferencyjne w Voltage Park. Dla przedsiębiorstw obniżamy zarówno koszty, jak i progi ekspertów, aby przenieść się z prototypu do produkcji łatwo i niezawodnie skalować obciążenia.

Jak zarządzasz zużyciem energii, wydajnością kosztową i zrównoważonością, gdy rozszerzasz swój ślad infrastrukturalny?

Zainwestowaliśmy i nadal inwestujemy znaczne kwoty w efektywne prowadzenie naszych centrów danych. Uzyskaliśmy znaczne korzyści w zużyciu energii i kosztach dzięki innowacjom, takim jak konserwacja predykcyjna napędzana przez AI, która redukuje czas przestoju i unika marnowania w porównaniu z reaktywnym serwisem. Większość naszego bieżącego śladu jest zasilana przez 99% plus energii odnawialnej i zielonej, a ten wskaźnik będzie rósł, gdy będziemy się rozszerzać.

Jak partnerstwa i standardy kształtują ewolucję Voltage Park jako dostawcy pełnej infrastruktury AI?

Partnerujemy z firmami, które przenoszą AI z teoretycznego do przełomowego. Dobrym przykładem jest nasza inwestycja w Matrice.ai, gdzie poprowadziliśmy ich ekspansję nasion. Ich ekspertyza domenowa w modelach wizji umożliwia naszym klientom przekształcenie pikseli w inteligencję z rozwiązaniami specyficznych branż w wielu branżach. Będziemy nadal dostarczać infrastrukturę AI jako kręgosłup dla dostawców modeli, aby wdrożyć swoje modele w modułowym, zintegrowanym stosie sprzętu i oprogramowania, który zapewnia wydajność bez kompromisów w zakresie bezpieczeństwa lub prywatności danych.

Jesteśmy również aktywnym współtwórcą społeczności open-source – wspierającym, na przykład, SGLang jako naszego partnera infrastrukturalnego, aby przynieść wysokiej jakości, otwarte projekty, takie jak SpecForge, do społeczności. I współpracujemy z amerykańską Narodową Fundacją Nauki, aby wspierać pilot Narodowego Zasobu Badawczego AI (NAIRR), publiczno-prywatną inicjatywę, aby rozszerzyć dostęp do najnowocześniejszych narzędzi AI dla badaczy i edukatorów na całym terytorium.

Jakie funkcje zarządzania przedsiębiorstwem, audytowalności lub bezpieczeństwa są priorytetem dla deweloperów AI?

Bezpieczeństwo, prywatność danych i zgodność są podstawowymi funkcjami naszej platformy AI factory, a nasi klienci mają pewność pracy z przedsiębiorstwem o wysokim standardzie. Podczas budowania naszego stosu oprogramowania, aby rozwiązać dodatkowe bóle głowy klientów, dodajemy funkcje, takie jak szczegółowe uprawnienia do zasobów i danych, wielostopniowe ślady audytowe, barierki bezpieczeństwa i bezproblemową integrację z przedsiębiorstwem, rurociągami danych, API i agentami. Celem jest dać klientom elastyczność chmury z kontrolą środowiska lokalnego.

Jakie porady masz dla badaczy AI i zespołów infrastrukturalnych, które mają na celu skuteczne skalowanie w dzisiejszym środowisku ograniczonym przez obliczenia?

Badacze AI i firmy powinny spróbować zminimalizować czas spędzony na rozwiązywaniu wyzwań infrastrukturalnych, ponieważ jest to niezróżnicowane, i skorzystać z wyższych poziomów prymitywnych, takich jak zarządzane Kubernetes i Slurm. Wybierz partnerów, którzy oferują przejrzyste ceny, ekspertów wsparcia operacyjnego i wyjątkowych ekspertów inżynieryjnych, aby pomóc w rozwiązywaniu problemów. Te czynniki przyspieszą zarówno Twoje eksperymenty, jak i skalowanie.

Gdzie widzisz Voltage Park za trzy lata – dalej w dół stosu w kierunku pełnej usługi AI, czy rozgałęziając się w nowe obszary, takie jak obliczenia krawędziowe?

Trzy lata w pejzażu AI to epoka. Jesteśmy firmą ukierunkowaną na klienta i za trzy lata, tak jak teraz, będziemy się koncentrować na realnych bólach głowy klientów, czy to w kontekście budowy produktów AI, czy korzystania z nich. Oczekuję, że będziemy mieli znacznie większą finezję w zakresie szerokości i głębi naszego stosu oprogramowania, oraz rekord pomagania wiodącym firmom na świecie w przyspieszaniu przyjęcia AI w skali.

Dziękujemy za wspaniałe wywiady, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Voltage Park.