Saurabh Giri, CPTO dari Voltage Park – Seri Wawancara

Saurabh Giri menjabat sebagai Chief Product dan Technology Officer di Voltage Park dan merupakan direktur eksekutif di dewan direksinya. Ia bertanggung jawab untuk mengarahkan visi strategis perusahaan, mendefinisikan roadmap produk, dan mengoperasikan operasi teknik. Sebelumnya, Saurabh memimpin tim yang membangun, meluncurkan, dan mengoperasikan Amazon (AMZN ) Bedrock, platform Amazon untuk AI generatif. Pada awal karirnya, Saurabh mendirikan dan menjabat sebagai CEO dari platform pembayaran generasi berikutnya; mendirikan perusahaan perdagangan algoritma yang mengkhususkan diri dalam pembuatan pasar dan arbitrase kurva di pasar berjangka; dan memberikan saran kepada dewan dan tim manajemen tentang strategi, operasi, dan masalah keuangan.

Misi Voltage Park adalah untuk membantu perusahaan mengubah data menjadi intelijen bisnis menggunakan AI, dengan membuat infrastruktur AI yang dapat diakses oleh semua. Dengan puluhan ribu GPU di enam pusat data, Voltage Park menawarkan perangkat keras kelas dunia dan layanan pelanggan dengan nilai luar biasa – terlepas dari apakah pelanggan adalah peneliti, startup, atau perusahaan besar.

Apa yang awalnya menarik Anda ke dunia infrastruktur dan AI?

AI generatif akan menjadi transformasional dalam cara perubahan langkah yang sedikit teknologi memiliki dalam abad terakhir. Apa yang mungkin hari ini dengan model frontier seperti OpenAI’s GPT-5 tidak akan terbayangkan sepuluh tahun yang lalu dan mengejutkan bahkan tiga tahun yang lalu.

Kami masih berada di awal permainan. Tarikan bagi saya adalah kesempatan untuk membentuk lapisan infrastruktur yang menentukan bagaimana teknologi yang begitu mendalam akan dimanfaatkan – untuk ilmu pengetahuan, untuk industri, dan untuk masyarakat secara luas.

Di AWS, Anda membantu membangun Amazon Bedrock. Apa pelajaran rekayasa produk dari pengalaman itu yang Anda terapkan di Voltage Park?

Amazon Bedrock memecahkan banyak hal, dan saya sangat bangga dengan apa yang tim Bedrock dapat capai dengan cepat. Intuisi inti Bedrock adalah bahwa pembangun memerlukan lapisan abstraksi yang membuat pilihan model dan modality transparan – membebaskan mereka untuk fokus pada membangun solusi daripada mengelola kompleksitas infrastruktur. Ini adalah platform industri pertama yang menyediakan akses yang mulus ke beberapa model dasar – teks, visi, dan multimodal – tanpa memerlukan tim untuk menavigasi API model-spesifik atau keterbatasan perangkat keras.

Kemampuan model dasar berkembang dengan kecepatan yang luar biasa – lebih cepat daripada pergeseran teknologi sebelumnya seperti komputasi awan, mobile, atau bahkan internet itu sendiri. Tim Bedrock saya mengirimkan inovasi dengan kecepatan itu, memprediksi di mana kemampuan model akan berada dua atau tiga generasi lebih lanjut dan membangun untuk masa depan itu.

Di Voltage Park, kami menerapkan prinsip yang sama: Bergerak cepat untuk mengirimkan infrastruktur dan abstraksi perangkat lunak yang canggih yang memecahkan masalah hari ini sambil membangun untuk di mana teknologi akan menuju dan apa yang pelanggan akan butuhkan ketika teknologi masa depan tiba.

Apa perubahan teknis dan budaya terbesar dalam berpindah dari hyperscaler ke startup yang efisien modal seperti Voltage Park?

Di hyperscaler, rekayasa ada di dalam ekosistem yang matang – tooling, kepatuhan, pemasaran, pengiriman pelanggan – di mana keseluruhan melebihi bagian-bagian. Di startup, Anda menukar angin belakang itu dengan kecepatan, kohesi, dan dampak. Tidak ada birokrasi yang menjalar untuk memperlambat Anda, tetapi juga tidak ada scaffolding yang sudah jadi – Anda harus membuat sendiri. Hadiahnya adalah kohesi budaya dan kemampuan untuk mengirimkan produk dengan dampak tinggi dalam waktu yang singkat.

Voltage Park memiliki 24.000-plus H100 GPU dan menawarkan akses bare-metal dengan harga kompetitif. Apa segmen pelanggan yang Anda targetkan terutama?

Platform kami mencakup bare metal, mesin virtual, Kubernetes yang dikelola, Slurm yang dikelola, dan tumpukan perangkat lunak yang komplementer yang dirancang untuk beban kerja AI. Kami melayani siapa saja yang membangun produk AI atau membangun dengan AI: peneliti, startup, dan perusahaan. Beberapa pembangun model paling canggih di dunia saat ini, seperti Cursor, yang mendorong kemajuan sains dan teknik pembelajaran mesin, sedang melatih model mereka di Voltage Park. Demikian pula, banyak perusahaan produk AI yang terkenal menjalankan beban inferensi di Voltage Park. Untuk perusahaan, kami menurunkan ambang biaya dan keahlian untuk berpindah dari prototipe ke produksi dengan mudah dan menskalakan beban kerja dengan andal.

Bagaimana Anda mengelola penggunaan daya, efisiensi biaya, dan keberlanjutan saat Anda memperluas jejak infrastruktur?

Kami telah membuat dan terus membuat investasi signifikan dalam menjalankan pusat data kami dengan efisien. Kami telah merekayasa keuntungan signifikan dalam penggunaan daya dan biaya melalui inovasi seperti perawatan prediktif yang didorong AI, yang mengurangi waktu henti dan menghindari pemborosan dibandingkan dengan perawatan reaktif. Sebagian besar jejak kami saat ini ditenagai oleh energi hijau dan terbarukan 99%+, dan rasio itu akan tumbuh ketika kami memperluas.

Bagaimana kemitraan dan standar membentuk evolusi Voltage Park sebagai penyedia infrastruktur AI full-stack?

Kami bermitra dengan perusahaan yang mengubah AI dari teoretis menjadi transformatif. Contoh yang baik adalah investasi kami di Matrice.ai, di mana kami memimpin ekspansi benih mereka. Keahlian domain mereka dalam model visi memungkinkan pelanggan kami untuk mengubah piksel menjadi kecerdasan dengan solusi vertikal-spesifik di seluruh industri. Kami akan terus menyediakan infrastruktur AI backbone untuk penyedia model untuk mengirimkan model mereka dalam tumpukan perangkat keras-perangkat lunak yang modular dan terintegrasi yang mengirimkan kinerja tanpa mengorbankan keamanan atau privasi data.

Kami juga merupakan kontributor aktif komunitas open-source – mendukung, misalnya, SGLang sebagai mitra infrastruktur mereka untuk membawa proyek open-source berkualitas tinggi seperti SpecForge ke komunitas. Dan kami telah bermitra dengan Yayasan Sains Nasional AS untuk mendukung pilot Sumber Daya Penelitian AI Nasional (NAIRR), sebuah inisiatif publik-swasta untuk memperluas akses ke alat AI canggih untuk peneliti dan pendidik di seluruh negeri.

Apa fitur manajemen perusahaan, auditabilitas, atau keamanan yang Anda prioritaskan untuk pengembang AI?

Keamanan, privasi data, dan kepatuhan adalah fitur dasar dari platform pabrik AI kami, dan pelanggan kami memiliki ketenangan pikiran bekerja dengan tumpukan perusahaan-kelas. Ketika kami membangun tumpukan perangkat lunak kami untuk mengatasi poin sakit tambahan pelanggan, kami menambahkan fitur seperti izin sumber daya dan data granular, jejak audit bertingkat, pengaman keselamatan, dan integrasi yang mulus dengan pipa data perusahaan, API, dan kerangka agen. Tujuannya adalah memberi pelanggan kelenturan awan dengan kontrol lingkungan on-prem.

Apa saran Anda untuk peneliti AI dan tim infrastruktur yang bertujuan untuk menskalakan dengan efektif di lingkungan terbatas komputasi saat ini?

Peneliti AI dan perusahaan harus mencoba meminimalkan waktu yang dihabiskan untuk menghadapi tantangan infrastruktur, karena itu tidak berbeda, dan memanfaatkan primitif tingkat yang lebih tinggi seperti Kubernetes yang dikelola dan Slurm. Pilih mitra yang menawarkan harga transparan, dukungan operasional ahli, dan keahlian teknik luar biasa untuk membantu memecahkan masalah. Faktor-faktor tersebut akan mempercepat baik eksperimen Anda dan skala Anda.

Di mana Anda melihat Voltage Park dalam tiga tahun – lebih jauh ke bawah tumpukan menuju AI-sebagai-layanan penuh, atau bercabang ke area baru seperti komputasi edge?

Tiga tahun di lanskap AI adalah sebuah epoch. Kami adalah perusahaan yang berfokus pada pelanggan dan dalam tiga tahun, seperti sekarang, akan fokus pada poin sakit pelanggan dunia nyata, baik dalam konteks membangun produk AI atau mengonsumsinya. Saya berharap bahwa kami akan memiliki lebih banyak kecanggihan dalam lebar dan kedalaman tumpukan perangkat lunak kami, dan catatan jejak membantu perusahaan terkemuka dunia mempercepat adopsi AI pada skala.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Voltage Park.