Saurabh Giri, CPTO of Voltage Park – Interview Series

Saurabh Giri menjabat sebagai Chief Product and Technology Officer di Voltage Park dan merupakan direktur eksekutif di dewan direksinya. Ia bertanggung jawab untuk mengarahkan visi strategis perusahaan, mendefinisikan roadmap produk, dan menjalankan operasi teknik. Sebelumnya, Saurabh memimpin tim yang membangun, meluncurkan, dan mengoperasikan Amazon Bedrock, platform Amazon untuk kecerdasan buatan generatif. Pada awal karirnya, Saurabh mendirikan dan menjabat sebagai CEO sebuah platform pembayaran generasi berikutnya; mendirikan sebuah perusahaan perdagangan algoritma yang mengkhususkan diri dalam pembuatan pasar dan arbitrase kurva di pasar berjangka; dan memberikan saran kepada dewan dan tim manajemen tentang strategi, operasi, dan masalah keuangan.

Misi Voltage Park adalah untuk membantu perusahaan mengubah data menjadi intelijen bisnis dengan menggunakan kecerdasan buatan, dengan membuat infrastruktur kecerdasan buatan yang dapat diakses oleh semua. Dengan puluhan ribu GPU di enam pusat data, Voltage Park menawarkan perangkat keras kelas dunia dan layanan pelanggan yang luar biasa dengan nilai yang luar biasa – terlepas dari apakah pelanggan adalah seorang peneliti, startup, atau perusahaan besar.

Apa yang awalnya menarik Anda ke dunia infrastruktur dan kecerdasan buatan?

Kecerdasan buatan generatif akan menjadi transformasional dalam cara perubahan besar yang hanya sedikit teknologi yang telah dalam abad terakhir. Apa yang mungkin hari ini dengan model frontier seperti OpenAI’s GPT-5 tidak akan terbayangkan sepuluh tahun yang lalu dan mengejutkan bahkan tiga tahun yang lalu.

Kita masih di awal permainan. Daya tarik bagi saya adalah kesempatan untuk membentuk lapisan infrastruktur yang menentukan bagaimana teknologi yang begitu mendalam akan dimanfaatkan – untuk sains, untuk industri, dan untuk masyarakat secara luas.

Di AWS, Anda membantu membangun Amazon Bedrock. Apa pelajaran rekayasa produk dari pengalaman itu yang Anda terapkan di Voltage Park?

Amazon Bedrock memecahkan banyak hal, dan saya sangat bangga dengan apa yang tim Bedrock capai dengan cepat. Wawasan inti Bedrock adalah bahwa para pembangun memerlukan lapisan abstraksi yang membuat pilihan model dan modalitas transparan – membebaskan mereka untuk fokus pada membangun solusi daripada mengelola kompleksitas infrastruktur. Ini adalah platform industri pertama yang menyediakan akses yang mulus ke beberapa model fondasi – teks, visi, dan multimodal – tanpa memerlukan tim untuk menavigasi API model-spesifik atau keterbatasan perangkat keras.

Kemampuan model fondasi berkembang dengan kecepatan yang luar biasa – lebih cepat dari pergeseran teknologi sebelumnya seperti komputasi awan, mobile, atau bahkan internet itu sendiri. Tim Bedrock saya mengirimkan inovasi dengan kecepatan itu, memprediksi di mana kemampuan model akan berada dua atau tiga generasi ke depan dan membangun untuk masa depan itu.

Di Voltage Park, kami menerapkan prinsip yang sama: Bergerak cepat untuk mengirimkan infrastruktur dan abstraksi perangkat lunak yang memotong untuk memecahkan masalah nyeri hari ini sambil merekayasa untuk ke mana teknologi itu menuju dan apa yang dibutuhkan pelanggan ketika teknologi masa depan tiba.

Apa perubahan teknis dan budaya terbesar dalam berpindah dari hyperscaler ke startup yang efisien modal seperti Voltage Park?

Di hyperscaler, rekayasa ada di dalam ekosistem yang luas dan matang – tooling, kepatuhan, pemasaran, pengiriman pelanggan – di mana keseluruhan melebihi jumlah bagian-bagian. Di startup, Anda menukar angin bertiup itu dengan kecepatan, kohesi, dan dampak. Tidak ada birokrasi yang menjalar untuk memperlambat Anda, tetapi tidak ada scaffolding yang sudah jadi – Anda harus membuat sendiri. Hadiahnya adalah kohesi budaya dan kemampuan untuk mengirim produk dengan dampak tinggi dalam waktu yang singkat.

Voltage Park memiliki 24.000-plus H100 GPU dan menawarkan akses bare-metal dengan harga yang kompetitif. Apa segmen pelanggan yang Anda targetkan secara primer?

Platform kami mencakup bare metal, mesin virtual, Kubernetes yang dikelola, Slurm yang dikelola, dan tumpukan perangkat lunak yang komplementer yang dirancang untuk beban kerja kecerdasan buatan. Kami melayani siapa saja yang membangun produk kecerdasan buatan atau membangun dengan kecerdasan buatan: peneliti, startup, dan perusahaan. Beberapa pembangun model paling canggih di dunia saat ini, seperti Cursor, yang mendorong kemajuan sains dan rekayasa mesin pembelajaran, sedang melatih model mereka di Voltage Park. Demikian pula, banyak perusahaan produk kecerdasan buatan yang terkenal menjalankan beban kerja inferensi di Voltage Park. Untuk perusahaan, kami menurunkan baik biaya dan ambang batas keahlian untuk berpindah dari prototipe ke produksi dengan mudah dan memperluas beban kerja dengan andal.

Bagaimana Anda mengelola penggunaan daya, efisiensi biaya, dan keberlanjutan ketika Anda memperluas jejak infrastruktur Anda?

Kami telah membuat dan terus membuat investasi yang signifikan dalam menjalankan pusat data kami dengan efisien. Kami telah merekayasa keuntungan yang signifikan dalam penggunaan daya dan biaya melalui inovasi seperti perawatan prediktif yang didorong oleh kecerdasan buatan, yang mengurangi waktu henti dan menghindari pemborosan dibandingkan dengan pelayanan reaktif. Sebagian besar jejak kami saat ini ditenagai oleh energi terbarukan dan hijau 99%+, dan rasio itu akan tumbuh ketika kami memperluas.

Bagaimana kemitraan dan standar membentuk evolusi Voltage Park sebagai penyedia infrastruktur kecerdasan buatan yang lengkap?

Kami bermitra dengan perusahaan yang mengubah kecerdasan buatan dari teoretis ke transformasional. Contoh yang baik adalah investasi kami di Matrice.ai, di mana kami memimpin ekspansi benih mereka. Keahlian domain mereka dalam model visi memungkinkan pelanggan kami untuk mengubah piksel menjadi kecerdasan dengan solusi spesifik vertikal di berbagai industri. Kami akan terus menyediakan tulang punggung infrastruktur kecerdasan buatan bagi penyedia model untuk mengirimkan model mereka dalam tumpukan perangkat keras-perangkat lunak yang terintegrasi dan modular yang mengirimkan kinerja tanpa mengorbankan keamanan atau privasi data.

Kami juga merupakan kontributor aktif untuk komunitas sumber terbuka – mendukung, misalnya, SGLang sebagai mitra infrastruktur untuk membawa proyek sumber terbuka berkualitas tinggi seperti SpecForge ke komunitas. Dan kami telah bermitra dengan Yayasan Sains Nasional AS untuk mendukung sumber daya penelitian kecerdasan buatan nasional (NAIRR) pilot, sebuah inisiatif publik-swasta untuk memperluas akses ke alat kecerdasan buatan canggih untuk peneliti dan pendidik di seluruh negeri.

Apa fitur manajemen kelas perusahaan, auditabilitas, atau keamanan yang Anda prioritaskan untuk pengembang kecerdasan buatan?

Keamanan, privasi data, dan kepatuhan adalah fitur dasar dari platform pabrik kecerdasan buatan kami, dan pelanggan kami memiliki ketenangan pikiran untuk bekerja dengan tumpukan perusahaan kelas. Ketika kami membangun tumpukan perangkat lunak untuk menangani masalah nyeri pelanggan tambahan, kami menambahkan fitur seperti izin sumber daya dan data granular, jejak audit bertingkat, penghalang keamanan, dan integrasi yang mulus dengan pipa data perusahaan, API, dan kerangka kerja agen. Tujuannya adalah untuk memberi pelanggan kecepatan awan dengan kontrol lingkungan pada premis.

Apa saran yang Anda miliki untuk peneliti kecerdasan buatan dan tim infrastruktur yang bertujuan untuk menskalakan secara efektif di lingkungan komputasi yang terbatas saat ini?

Peneliti kecerdasan buatan dan perusahaan harus mencoba untuk meminimalkan waktu yang mereka habiskan untuk menghadapi tantangan infrastruktur, karena itu tidak berbeda, dan memanfaatkan primitif tingkat yang lebih tinggi seperti Kubernetes yang dikelola dan Slurm. Pilih mitra yang menawarkan harga transparan, dukungan operasional ahli, dan keahlian rekayasa luar biasa untuk membantu menyelesaikan masalah. Faktor-faktor tersebut akan mempercepat baik eksperimen dan penskalaan Anda.

Di mana Anda melihat Voltage Park dalam tiga tahun – lebih jauh ke bawah tumpukan menuju layanan kecerdasan buatan sepenuhnya, atau bercabang ke area baru seperti komputasi tepi?

Tiga tahun di lanskap kecerdasan buatan adalah sebuah epoch. Kami adalah perusahaan yang berfokus pada pelanggan dan dalam tiga tahun, seperti sekarang, akan fokus pada masalah nyeri pelanggan di dunia nyata, apakah dalam konteks membangun produk kecerdasan buatan atau mengonsumsinya. Saya berharap bahwa kami akan memiliki lebih banyak kecanggihan dalam lebar dan kedalaman tumpukan perangkat lunak kami, dan catatan jejak membantu perusahaan terkemuka di dunia mempercepat adopsi kecerdasan buatan secara besar-besaran.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Voltage Park.