Saurabh Giri, Voltage Park’ın CPTO’su – Röportaj Serisi

Saurabh Giri Voltage Park’ta Baş Ürün ve Teknoloji Sorumlusu olarak görev yapmakta ve şirketin yönetim kurulunda yönetici müdür olarak görev yapmaktadır. Şirketin stratejik vizyonunu şekillendirmek, ürün yol haritasını tanımlamak ve mühendislik operasyonlarını yürütmekle sorumludur. Önceden, Saurabh Amazon Bedrock’i oluşturan, lanç eden ve işleten takımları yönetmiştir. Amazon’un generatif AI için platformu. Kariyerinin başlarında, Saurabh bir sonraki nesil ödeme platformunu kurucu ve CEO olarak görev yaptı; futures piyasalarında piyasa yapımı ve eğri arbitrajı uzmanlaşmış bir algoritmik ticaret firmasını kurucu olarak görev yaptı ve yönetim kurullarına ve yönetim ekiplerine strateji, operasyonlar ve mali konularda danışmanlık yaptı.

Voltage Park‘ın misyonu, AI altyapısını herkes için erişilebilir kılarak şirketlerin verileri iş zekasına dönüştürmesine yardımcı olmaktır. Altı veri merkezinde on binlerce GPU ile Voltage Park, world-class donanım ve müşteri hizmetleri sunmaktadır – müşteri bir araştırmacı, bir startup veya büyük bir şirket olsun.

Hem startuplarda hem de dünyanın en büyük bulut sağlayıcılarından birinde çalıştınız. Sizleri altyapı ve AI dünyasına neler çekti?

Generatif AI, son yüzyılda birkaç teknoloji gibi devrim niteliğinde olacak. Bugün OpenAI’ın GPT-5 gibi ön cephe modelleri ile mümkün olan şeyler, on yıl önce düşünülemez ve üç yıl önce bile şaşırtıcı olurdu.

Hala erken aşamadayız. Benim için çekici olan, böyle bir derin teknolojinin nasıl harnessed edildiğini belirleyen altyapı katmanını şekillendirmek fırsatı – bilim, endüstri ve toplum için.

AWS’de Amazon Bedrock’u oluşturmanıza yardımcı oldunuz. Voltage Park’ta bu deneyimden elde ettiğiniz ürün mühendisliği derslerini nasıl uyguluyorsunuz?

Amazon Bedrock birçok yönden yeni bir yol açtı ve Bedrock ekibinin ne kadar hızlı bir şekilde ne kadar şey başardığından gerçekten gurur duyuyorum. Bedrock’un temel öngörüsü, yapımcıların model seçimi ve modalliği şeffaf kılan bir soyutlama katmanına ihtiyaç duyması – onları altyapı karmaşıklığını yönetmek yerine çözümler oluşturmaya odaklanmaya özgür bırakmasıydı. Metin, görme ve çok modelli gibi birden fazla temel modeli modelle özel API’ler veya donanım kısıtlamalarına gerek kalmadan sunan endüstrinin ilk platformuydu.

Temel model yetenekleri, bulut bilişim, mobil veya hatta internet kendisinden daha hızlı bir şekilde gelişiyor. Bedrock ekibim bu hızda inovasyon gönderdi, model yeteneklerinin iki veya üç nesil ileride nerede olacağını öngörerek ve o geleceğe göre inşa etti.

Voltage Park’ta aynı ilkeyi uyguluyoruz: Bugünün ağrı noktalarını çözen ve müşterilerin gelecekte ihtiyaç duyacağı şeyleri karşılayacak şekilde altyapı ve yazılım soyutlamalarını sunmak için hızlı hareket edin.

Hyperscaler’dan bir sermaye verimli startup gibi Voltage Park’a geçişin en büyük teknik ve kültürel değişiklikleri nelerdi?

Hyperscaler’da mühendislik, araçlar, uyum, pazarlama, müşteri teslimi gibi geniş ve olgun bir ekosistem içinde var olur – bütün, parçaların toplamından daha fazlasını oluşturur. Bir startup’da, bu tür rüzgarları hız, kohezyon ve etkiye karşı takas edersiniz. Size yavaşlatacak bir bürokrasi yoktur, ancak önceden inşa edilmiş bir iskele de yoktur – kendiniz yaratmanız gerekir. Ödül, kültürel kohezyon ve yüksek etkiye sahip ürünlerin bir kısmını gönderme yeteneğidir.

Voltage Park 24.000’den fazla H100 GPU’ya sahiptir ve rekabetçi fiyatlarla çıplak metal erişimi sunmaktadır. Hangi müşteri segmentlerine principalmente hedeflenmektedir?

Platformumuz, çıplak metal, sanal makineler, yönetilen Kubernetes, yönetilen Slurm ve AI iş yükleri için tasarlanmış bir yazılım yığını içerir. AI ürünleri oluşturan veya AI ile inşa eden herkesi hizmet vermekteyiz: araştırmacılar, startuplar ve şirketler. Dünyadaki en sofistike model oluşturucularından bazıları, örneğin makine öğrenimi bilim ve mühendisliğinde devlet-sanatını iten Cursor, modellerini Voltage Park’ta eğitiyorlar. Aynı şekilde, birçok ünlü AI ürün şirketi Voltage Park’ta çıkarım iş yüklerini çalıştırıyor. Şirketler için, prototipmaktan üretimine kolayca geçmeleri ve iş yüklerini güvenilir bir şekilde ölçeklendirmeleri için hem maliyeti hem de uzmanlık eşiğini düşürüyoruz.

Altyapı ayak izinizi ölçeklendirirken enerji kullanımını, maliyet verimliliğini ve sürdürülebilirliği nasıl yönetiyorsunuz?

Veri merkezlerimizi verimli bir şekilde çalıştırmak için önemli yatırımlar yaptık ve yapmaya devam ediyoruz. AI ile çalışan öngörülü bakım gibi yenilikler sayesinde enerji kullanımını ve maliyeti azalttık – bu, reaktif hizmete kıyasla daha az down time ve atık anlamına geliyor. Mevcut ayak izimizin büyük çoğunluğu %99’dan fazla yenilenebilir ve yeşil enerji ile güçlendiriliyor ve bu oran genişledikçe artacak.

Ortaklıklar ve standartlar, Voltage Park’ın tam yığın AI altyapı sağlayıcısı olarak evrimini nasıl şekillendirmektedir?

AI’yi teorikten dönüşümcüye taşıyan şirketlerle ortaklık kuruyoruz. İyi bir örnek, Matrice.ai’de liderliğimizdeki tohum genişletmesidir. Their domain expertise in vision modelleri, müşterilerimizin çeşitli endüstrilerdeki dikey özel çözümlerle pikselleri zekaya dönüştürmelerine olanak tanır. AI altyapısı omurgasını model sağlayıcılarına sunmaya devam edeceğiz, böylece modellerini birleştirilmiş bir donanım-yazılım yığınında performans sunarken güvenlik veya veri gizliliği konusunda ödün vermeden dağıtabilirler.

Ayrıca açık kaynak topluluğunun aktif bir katılıyorusunuz – örneğin SGLang’in altyapı ortağı olarak yüksek kaliteli, açık kaynaklı projeleri topluluğa getirmek için SpecForge’u destekliyoruz. Ve NAIRR pilotunu desteklemek için ABD Ulusal Bilim Vakfı ile ortaklık kurduk, bu, bir kamu-özel girişimi, araştırmacılara ve ülke çapındaki eğitimcilere en son AI araçlarına erişimini genişletmek için.

AI geliştiricileri için hangi kurumsal düzeyde yönetim, denetlenebilirlik veya güvenlik özelliklerine öncelik veriyorsunuz?

Güvenlik, veri gizliliği ve uyum, AI fabrika platformumuzun temel özellikleridir ve müşterilerimiz kurumsal düzeyde bir yığın ile çalışmanın güvencesini yaşamaktadırlar. Yazılım yığınımızı müşterilerin ek ağrı noktalarını çözmek için oluştururken, kaynak ve veri izinleri, katmanlı denetim izleri, güvenlik koridorları ve kurumsal veri boru hatları, API’ler ve ajan çerçeveleri ile sorunsuz entegrasyonu gibi özellikler ekliyoruz. Hedefimiz, müşterilere bulutun esnekliğini vermektir, ancak aynı zamanda bir ön-prem ortamının kontrolünü sunmak.

AI araştırmacıları ve altyapı ekiplerine, bugünlerde hesaplı bir ortamda etkili bir şekilde ölçeklenmeleri için hangi tavsiyelerde bulunursunuz?

AI araştırmacıları ve şirketleri, altyapı zorlukları ile uğraşmak için harcadıkları zamanı en aza indirmeye çalışmalı ve yönetilen Kubernetes ve Slurm gibi daha yüksek düzeyli primitiflerden yararlanmalıdır. Şeffaf fiyatlandırma, uzman operasyonel destek ve mükemmel mühendislik uzmanlığını sunan ortaklar seçin – bu faktörler hem deneysel hem de ölçeklendirme hızınızı hızlandırır.

Üç yıl içinde Voltage Park’ı nerede görüyorsunuz – tam AI-as-a-service’ye doğru daha aşağıya doğru mu yoksa edge compute gibi yeni alanlara dalıyor mu?

AI manzarasında üç yıl bir çağdır. Müşteri odaklı bir şirketiz ve üç yıl içinde, şimdi olduğu gibi, gerçek dünya müşteri ağrı noktalarına odaklanacağız – AI ürünleri oluşturma veya AI ile inşa etme bağlamında. Bekliyorum ki, yazılım yığınımızın genişliği ve derinliği açısından çok daha fazla sofistike olacağız ve dünyanın önde gelen şirketlerine AI’yi ölçekte benimsemelerini hızlandırma konusunda bir geçmişe sahip olacağız.

Teşekkür ederiz için harika röportaj, okuyucular daha fazla bilgi öğrenmek için Voltage Park‘ı ziyaret edebilir.