Wywiady

Saurabh Giri, CPTO of Voltage Park – Wywiad z serii

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Saurabh Giri pełni funkcję Chief Product and Technology Officer w Voltage Park i jest dyrektorem wykonawczym w jej radzie nadzorczej. Jest odpowiedzialny za napędzanie strategicznej wizji firmy, definiowanie jej drogi rozwoju produktów oraz kierowanie operacjami inżynieryjnymi. Wcześniej Saurabh kierował zespołami, które budowały, uruchamiały i obsługiwały Amazon (AMZN ) Bedrock, platformę Amazon dla generatywnej sztucznej inteligencji. Na początku swojej kariery Saurabh współzałożył i pełnił funkcję CEO platformy płatniczej następnej generacji; współzałożył firmę handlu algorytmicznego specjalizującą się w tworzeniu rynku i arbitrażu krzywej na rynkach futures; oraz doradzał radom nadzorczym i zespołom kierowniczym w kwestiach strategii, operacji i spraw finansowych.

Voltage Park ma na celu pomóc przedsiębiorstwom w przekształceniu danych w inteligencję biznesową za pomocą sztucznej inteligencji, poprzez udostępnienie infrastruktury AI wszystkim. Z dziesiątkami tysięcy procesorów GPU w sześciu centrach danych, Voltage Park oferuje światowej klasy sprzęt i obsługę klienta w niewiarygodnej cenie – niezależnie od tego, czy klientem jest badacz, startup, czy duże przedsiębiorstwo.

Czy mogłbyś powiedzieć, co Cię pierwotnie przyciągnęło do świata infrastruktury i AI?

Generatywna sztuczna inteligencja będzie przełomowa w sposób, który niewiele technologii miało w ciągu ostatniego stulecia. To, co jest możliwe dzisiaj z modelem OpenAI GPT-5, byłoby niewyobrażalne dziesięć lat temu i zaskakujące nawet trzy lata temu.

Jeszcze jesteśmy we wczesnej fazie. To, co mnie przyciąga, to możliwość kształtowania warstwy infrastruktury, która określa, w jaki sposób taka głęboka technologia będzie wykorzystywana – dla nauki, dla przemysłu i dla społeczeństwa jako całości.

W AWS, pomogłeś zbudować Amazon Bedrock. Jakie lekcje inżynieryjne z tego doświadczenia stosujesz w Voltage Park?

Amazon Bedrock przełamał wiele barier, i jestem naprawdę dumny z tego, co zespół Bedrock był w stanie osiągnąć szybko. Podstawową ideą Bedrock było to, że budowniczy potrzebują warstwy abstrakcji, która czyni wybór modelu i modalności przezroczystym – uwalniając ich od koncentrowania się na budowaniu rozwiązań zamiast zarządzania złożonością infrastruktury. Był to pierwszy przemysłowy platforma, która zapewniała bezproblemowy dostęp do wielu modeli podstawowych – tekstowych, wizualnych i multimodalnych – bez wymogu, aby zespoły nawigowały modelowe API lub ograniczenia sprzętowe.

Możliwości modelu podstawowego rozwijają się w oszałamiającym tempie – szybciej niż poprzednie zmiany technologiczne, takie jak chmura obliczeniowa, mobilność lub nawet internet sam w sobie. Mój zespół Bedrock wprowadzał innowacje w tym tempie, przewidując, gdzie możliwości modelu będą za dwa lub trzy generacje i budując dla tej przyszłości.

W Voltage Park stosujemy ten sam principio: Poruszamy się szybko, aby dostarczyć infrastrukturę i abstrakcje oprogramowania, które rozwiązują bieżące bóle głowy, jednocześnie inżynieryjnie dla tego, gdzie technologia jest skierowana i co klienci będą potrzebować, gdy technologia przyszłości przybędzie.

Jakie były największe techniczne i kulturowe zmiany w przechodzeniu z hyperscalera do kapitałowo-efektywnego startupu jak Voltage Park?

W hyperscalerze inżynieria istnieje wewnątrz dojrzałego ekosystemu – toolingu, zgodności, marketingu, dostarczania klientom – gdzie całość przewyższa sumę jego części. W startupie wymieniasz te korzyści na prędkość, spójność i wpływ. Nie ma rozległej biurokracji, która mogłaby Cię spowolnić, ale nie ma również prefabrykowanego szkieletu – musisz stworzyć własny. Nagrodą jest kulturowa spójność i możliwość dostarczania produktów o wysokim wpływie w ułamku czasu.

Voltage Park posiada ponad 24 000 procesorów GPU H100 i oferuje dostęp do metalu przy konkurencyjnych cenach. Jakie segmenty klientów są Państwo głównie ukierunkowani?

Nasza platforma obejmuje metal, maszyny wirtualne, zarządzane Kubernetes, zarządzane Slurm oraz komplementarny stos oprogramowania zaprojektowany dla obciążeń AI. Obsługujemy każdego, kto buduje produkty AI lub buduje z AI: badaczy, startupów i przedsiębiorstw. Niektórzy z najbardziej zaawansowanych budowniczych modeli na świecie, tacy jak Cursor, którzy są pionierami w nauce i inżynierii maszynowej, szkolą swoje modele na Voltage Park. Podobnie, wiele znanych firm produkujących produkty AI uruchamia obciążenia inferencyjne w Voltage Park. Dla przedsiębiorstw obniżamy zarówno koszty, jak i progi ekspertów, aby przenieść się od prototypu do produkcji łatwo i skalować obciążenia w sposób niezawodny.

Jak zarządzacie zużyciem energii, efektywnością kosztową i zrównoważonością, gdy rozszerzacie swoją infrastrukturę?

Zainwestowaliśmy i nadal inwestujemy znaczne środki w efektywne zarządzanie naszymi centrami danych. Wprowadziliśmy znaczne korzyści w zużyciu energii i kosztach za pomocą innowacji, takich jak AI-napędzana konserwacja predykcyjna, która redukuje czas przestoju i unika marnowania w porównaniu z reaktywnym serwisem. Większość naszego obecnie istniejącego zaplecza jest zasilana energią odnawialną i zieloną o wydajności 99%+, a ten wskaźnik będzie rósł, gdy będziemy się rozwijać.

Jak partnerstwa i standardy kształtują ewolucję Voltage Park jako dostawcy pełnej infrastruktury AI?

Partnerujemy z firmami, które przenoszą AI z teoretycznego do przełomowego. Dobrym przykładem jest nasza inwestycja w Matrice.ai, gdzie poprowadziliśmy ich ekspansję nasion. Ich ekspertyza domenowa w modelach wizyjnych umożliwia naszym klientom przekształcenie pikseli w inteligencję z rozwiązaniami specyficznych branż w wielu branżach. Będziemy nadal dostarczać infrastrukturę AI, aby dostawcy modeli mogli wdrożyć swoje modele w modułowym, zintegrowanym sprzętowo-oprogramowaniu, które zapewnia wydajność bez kompromisów w zakresie bezpieczeństwa lub prywatności danych.

Jesteśmy również aktywnym współpracownikiem społeczności open-source – wspierającym, na przykład, SGLang jako naszego partnera infrastrukturalnego, aby przynieść wysokiej jakości, otwarte projekty, takie jak SpecForge, do społeczności. I współpracujemy z amerykańską Narodową Fundacją Nauki, aby wspierać pilot Narodowego Zasobu Badawczego AI (NAIRR), inicjatywę publiczno-prywatną, aby rozszerzyć dostęp do najnowocześniejszych narzędzi AI dla badaczy i edukatorów w całym kraju.

Jakie funkcje zarządzania, audytowania lub bezpieczeństwa są priorytetem dla deweloperów AI?

Bezpieczeństwo, ochrona danych i zgodność są podstawowymi funkcjami naszej platformy AI Factory, a nasi klienci mają pewność pracy z enterprise’owym stosiem. Podczas budowania naszego stosu oprogramowania, aby rozwiązać dodatkowe bóle głowy klientów, dodajemy funkcje, takie jak szczegółowe uprawnienia do zasobów i danych, wielostopniowe ślady audytowe, barierki bezpieczeństwa i bezproblemową integrację z enterprise’owymi potokami danych, API i ramami agentów. Celem jest dać klientom elastyczność chmury z kontrolą środowiska lokalnego.

Jakie porady masz dla badaczy AI i zespołów infrastrukturalnych, aby skutecznie skalować w dzisiejszym środowisku ograniczonym obliczeniowo?

Badacze AI i firmy powinny próbować minimalizować czas spędzony na radzeniu sobie z wyzwaniami infrastrukturalnymi, ponieważ jest to nieróżnicujące, i skorzystać z wyższych prymitywów, takich jak zarządzane Kubernetes i Slurm. Wybierz partnerów, którzy oferują przejrzyste ceny, ekspertowe wsparcie operacyjne i wyjątkową ekspertyzę inżynieryjną, aby pomóc w rozwiązywaniu problemów. Te czynniki przyspieszą zarówno Twoje eksperymentowanie, jak i skalowanie.

Gdzie widzisz Voltage Park za trzy lata – dalej w dół stosu w kierunku pełnej usługi AI, czy rozgałęziając się w nowe obszary, takie jak obliczenia brzegowe?

Trzy lata w krajobrazie AI to epoka. Jesteśmy firmą ukierunkowaną na klienta i za trzy lata, tak jak teraz, będziemy się koncentrować na realnych bólach głowy klientów, niezależnie od tego, czy w kontekście budowy produktów AI, czy konsumpcji. Oczekuję, że będziemy mieli znacznie bardziej zaawansowany stos oprogramowania i ślad pomagania wiodącym firmom na świecie w przyspieszaniu adopcji AI na dużą skalę.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Voltage Park.

Antoine jest wizjonerskim liderem i współzałożycielem Unite.AI, który jest zmotywowany niezachwianą pasją do kształtowania i promowania przyszłości sztucznej inteligencji i robotyki. Jako serialowy przedsiębiorca, wierzy, że sztuczna inteligencja będzie tak samo przełomowa dla społeczeństwa, jak elektryczność, i często jest złapany na tym, że zachwala potencjał przełomowych technologii i AGI.

Jako futurysta, jest poświęcony badaniu, jak te innowacje ukształtują nasz świat. Ponadto, jest założycielem Securities.io, platformy skupiającej się na inwestowaniu w najnowocześniejsze technologie, które zmieniają przyszłość i przebudowują całe sektory.