Chris Miglino, CEO Axe Compute – Seri Wawancara

Chris Miglino adalah CEO Axe Compute, dengan pengalaman lebih dari dua dekade membangun, mengembangkan, dan berinvestasi di perusahaan teknologi. Ia ikut mendirikan Social Reality dan pernah bekerja dengan DNA Fund, memadukan latar belakang kewirausahaan dengan pengalaman di pasar modal dan investasi infrastruktur. Di Axe Compute, ia berfokus pada tantangan operasional dan finansial dalam meningkatkan kapasitas komputasi AI khusus bagi pelanggan perusahaan.

Axe Compute menyediakan infrastruktur GPU bare-metal khusus untuk beban kerja AI perusahaan. Produk Axe Access memberikan akses ke kapasitas GPU yang tersedia, sementara Axe Build mengembangkan infrastruktur sesuai kebutuhan pelanggan untuk jangka panjang. Dalam wawancara ini, Miglino membahas ekonomi GPU, kendala pasokan daya, kinerja klaster, kemitraan penerapan, serta bagaimana pergeseran ke inferensi dan agen AI dapat membentuk kembali permintaan infrastruktur perusahaan.

Karier Anda telah berlangsung lebih dari dua dekade di dunia kewirausahaan, mulai dari ikut mendirikan Social Reality hingga memimpin DNA Fund dan kini menjabat sebagai CEO Axe Compute. Apa yang awalnya menarik Anda ke pasar infrastruktur AI, dan peluang apa yang Anda lihat belum ditangani secara memadai oleh penyedia layanan cloud tradisional?

Peluang yang saya lihat sederhana: perkembangan AI lebih cepat daripada infrastruktur yang dibangun untuk mendukungnya. Saya telah menghabiskan lebih dari dua dekade membangun, mengembangkan, dan berinvestasi di perusahaan; kesenjangan itulah yang menjadi sumber peluang terbesar bagi saya. Sejak ikut mendirikan Social Reality hingga bekerja di DNA Fund, saya selalu tertarik pada masalah mendasar yang memiliki jalur jelas dari teknologi baru menuju nilai komersial nyata. Perusahaan menginvestasikan miliaran dolar di AI, tetapi banyak di antaranya tidak bisa memperoleh kapasitas andal dengan biaya yang masuk akal secara komersial. Penyedia layanan cloud tradisional telah membangun bisnis yang luar biasa, tetapi infrastrukturnya dirancang untuk lingkungan bersama yang fleksibel, bukan untuk beban kerja AI intensif komputasi yang berjalan terus-menerus, sepanjang waktu. Saya sendiri pernah membangun perusahaan, jadi saya tahu kebutuhan bisnis: biaya yang dapat diperkirakan, akses andal, dan ruang untuk berkembang. Saya melihat peluang untuk membangun infrastruktur khusus yang sesuai dengan kebutuhan nyata AI perusahaan, sehingga perusahaan dapat mengendalikan sumber daya komputasinya tanpa harus menjadi operator pusat data. Itulah alasan saya bergabung dengan Axe Compute. Perusahaan yang membangun infrastruktur di balik AI akan menentukan seberapa jauh dan seberapa cepat teknologi ini dapat berkembang.

Seiring perusahaan mempercepat adopsi AI, akses ke komputasi GPU berkinerja tinggi menjadi pertimbangan penting. Apa kesalahpahaman terbesar perusahaan mengenai kebutuhan komputasi mereka, dan bagaimana sebaiknya mereka mengevaluasi infrastruktur GPU khusus dibandingkan layanan cloud tradisional?

Kesalahpahaman terbesar adalah anggapan bahwa semakin banyak GPU otomatis menghasilkan kinerja AI yang lebih baik. Arsitektur yang mendukung GPU tersebut, konsistensi akses, dan biaya pengoperasiannya sama pentingnya. Kesalahpahaman kedua adalah menganggap model cloud yang dirancang untuk perangkat lunak perusahaan juga merupakan model yang tepat untuk AI. Cloud publik sangat cocok untuk eksperimen, permintaan yang sulit diprediksi, dan beban kerja yang dapat dengan cepat ditingkatkan atau dikurangi. Namun, begitu Anda memasuki tahap produksi dan menjalankan beban kerja berat sepanjang waktu, perhitungan biayanya berubah. Anda tidak lagi membayar komputasi sesekali. Anda membiayai operasi industri berkelanjutan dengan model harga berbasis konsumsi. Saya menyarankan perusahaan untuk mempertimbangkan tingkat pemanfaatan, durasi beban kerja, kebutuhan jaringan, dan total biaya selama beberapa tahun, bukan hanya harga GPU per jam. Infrastruktur khusus memberikan kepastian biaya dan kendali untuk beban kerja berkelanjutan, tetapi pilihan yang tepat bergantung pada rencana penggunaan AI Anda.

Axe Compute menawarkan dua model berbeda, Axe Access dan Axe Build, yang menyediakan ketersediaan GPU langsung sekaligus infrastruktur AI yang dirancang khusus. Bisakah Anda menjelaskan cara kerja kedua model ini, jenis pelanggan yang dilayani, dan bagaimana organisasi dapat menentukan pendekatan yang paling sesuai untuk beban kerja AI mereka?

Kami membangun Axe Access dan Axe Build karena perusahaan tidak semuanya berada pada tahap yang sama, dan mereka tidak seharusnya dipaksa menggunakan model infrastruktur yang seragam. Axe Access ditujukan bagi organisasi yang membutuhkan kapasitas GPU khusus sekarang, baik untuk mengembangkan operasi yang sudah ada, meluncurkan model baru, maupun beralih dari penyedia layanan saat ini yang sudah tidak memadai. Axe Build ditujukan bagi pelanggan yang membutuhkan infrastruktur khusus yang dirancang sesuai kebutuhan jangka panjang, mulai dari kapasitas, arsitektur, hingga operasional. Perbedaannya terletak pada waktu, skala, dan penyesuaian. Jika Anda perlu segera menjalankan beban kerja, mulailah dengan kapasitas yang tersedia. Jika Anda merencanakan operasi AI selama beberapa tahun, bangunlah infrastruktur untuk itu. Yang penting bagi saya adalah memberi pelanggan jalur praktis dari kebutuhan hingga kapasitas yang siap digunakan, karena teknologi hanya bernilai jika dapat dimanfaatkan.

Axe Compute telah mengumumkan proyek infrastruktur AI yang telah dikontrak senilai lebih dari $3,45 miliar, yang mencerminkan tingginya permintaan akan kapasitas komputasi khusus. Apa tantangan terbesar dalam mewujudkan komitmen tersebut menjadi klaster GPU operasional, dan pelajaran apa yang Anda dapatkan tentang pengembangan infrastruktur dengan laju seperti ini?

Pelajaran terbesar adalah bahwa memenangkan permintaan dan menghadirkan infrastruktur merupakan dua disiplin yang sangat berbeda, dan Anda harus sangat piawai dalam keduanya. Dengan proyek yang telah dikontrak senilai lebih dari $3,45 miliar, setiap tahap penting: fasilitas, pasokan listrik, pengadaan, pembiayaan, jaringan, serta pekerjaan teknis untuk mengoperasikan klaster. Setiap tahap memiliki jadwalnya sendiri, dan satu keterlambatan saja dapat menghambat seluruh penerapan. Pasokan listrik adalah kendala terbesar. Anda bisa saja sudah memiliki komitmen, modal, dan peralatan, tetapi tanpa listrik, semua itu tidak akan menghasilkan keuntungan. Kami belajar untuk meningkatkan skala dengan disiplin dalam mengurutkan proyek, memilih mitra, dan mengalokasikan modal. Kami juga tidak pernah lupa bahwa nilai proyek yang telah dikontrak tidak sama dengan infrastruktur yang sudah diterapkan dan menghasilkan pendapatan. Perusahaan yang akan unggul adalah perusahaan yang secara konsisten mengubah komitmen menjadi kapasitas operasional yang andal. Eksekusi adalah model bisnisnya.

Ketersediaan GPU sering mendominasi pembahasan tentang infrastruktur AI, tetapi pasokan listrik, pendinginan, jaringan, dan kapasitas pusat data juga dapat menjadi kendala yang sama besarnya. Menurut Anda, mana di antara hambatan ini yang menjadi ancaman jangka panjang terbesar bagi skalabilitas AI, dan bagaimana Axe Compute mengatasi tantangan tersebut?

Listrik. Hampir semua bagian lain dari infrastruktur AI dapat diperluas atau ditingkatkan lebih cepat daripada sistem kelistrikan yang menopangnya. Teknologi GPU berkembang pesat, modal dapat dikerahkan, dan fasilitas dapat dibangun, tetapi jalur transmisi, sambungan ke jaringan utilitas, dan pembangkitan listrik skala besar membutuhkan waktu yang sering kali jauh melampaui siklus perencanaan perusahaan AI. Kita membutuhkan jaringan listrik yang dirancang berdasarkan permintaan yang dapat diprediksi agar mampu menampung konsentrasi komputasi baru dalam skala besar, dan masalah ini tidak bisa diatasi hanya dengan membelanjakan lebih banyak untuk perangkat keras. Di Axe Compute, kami menyelaraskan pengembangan infrastruktur dengan ketersediaan pasokan listrik yang realistis dan bekerja sama dengan mitra yang memahami penerapan AI berdensitas tinggi. Pendinginan dan jaringan sangat penting, terutama seiring meningkatnya kepadatan rak, tetapi pasokan listrik yang andal dan terjangkau akan menentukan lokasi pembangunan infrastruktur AI serta operator mana yang dapat meningkatkan skala usahanya secara menguntungkan.

Membangun klaster AI berperforma tinggi membutuhkan jauh lebih banyak daripada sekadar merakit ribuan GPU. Bagaimana faktor seperti arsitektur jaringan, laju transfer penyimpanan, orkestrasi beban kerja, dan pemanfaatan GPU memengaruhi kinerja di dunia nyata, dan di bagian mana perusahaan paling sering meremehkan kompleksitas teknisnya?

GPU mendapat semua perhatian, tetapi kinerjanya bergantung pada segala sesuatu di sekelilingnya. Di sinilah perusahaan meremehkan kompleksitasnya. Anda dapat menerapkan prosesor yang sangat bertenaga, tetapi jika jaringan Anda tidak dapat memindahkan data di antara prosesor tersebut secara efisien, atau penyimpanan Anda tidak dapat memasok data dengan cukup cepat, Anda membayar kapasitas yang tidak digunakan. Hal ini paling berdampak dalam pelatihan skala besar, ketika komunikasi antargPU dapat memengaruhi secara signifikan lamanya waktu yang dibutuhkan untuk menyelesaikan pelatihan model. Orkestrasi menambah satu lapisan kompleksitas lagi karena Anda harus mengelola penjadwalan, alokasi sumber daya, kegagalan, dan perubahan permintaan tanpa membiarkan kapasitas menganggur. Saya mengukur kinerja berdasarkan keluaran yang bermanfaat, bukan spesifikasi teoretis, karena klaster yang dimanfaatkan dengan baik dapat memberikan keekonomian yang jauh lebih baik daripada klaster yang lebih besar tetapi beroperasi secara tidak efisien. Infrastruktur AI memerlukan optimalisasi berkelanjutan di seluruh perangkat keras, perangkat lunak, dan operasional. Pembelian peralatan bukanlah sesuatu yang cukup dilakukan sekali saja.

Axe Compute baru-baru ini mengumumkan kemitraan strategis dengan Penguin Solutions untuk mempercepat penerapan infrastruktur AI skala besar. Kemampuan teknis dan operasional spesifik apa yang dihadirkan oleh kemitraan ini, dan bagaimana kemitraan tersebut akan membantu mempersingkat waktu penerapan sekaligus menjaga keandalan dan kinerja?

Penguin menghadirkan tiga hal: layanan penerapan dan operasional yang dipimpin para ahli di lokasi klaster GPU tertentu, perangkat lunak ClusterWareAI untuk mengelola operasional klaster dalam skala besar, serta dukungan pusat operasi jaringan 24×7 dari tim Penguin yang bekerja bersama tim kami. Hal ini penting karena tahap berikutnya pertumbuhan infrastruktur AI bergantung pada seberapa efisien perusahaan dapat menerapkan dan mengoperasikan lingkungan yang kompleks dalam skala besar. Menerapkan klaster AI berarti mengintegrasikan sistem komputasi, jaringan, penyimpanan, dan manajemen ke dalam lingkungan yang beroperasi secara andal di bawah beban kerja yang berat. Para spesialis Penguin menambah kapasitas pelaksanaan, sehingga kami dapat menerapkan lebih cepat, menangani lebih banyak pembangunan, dan mengurangi risiko pelaksanaan. Tujuannya adalah menjadikan penerapan lebih mudah diulang dan diprediksi tanpa mengorbankan kinerja, karena mempercepat proyek hanya akan menciptakan nilai jika infrastrukturnya beroperasi dengan andal setelah mulai digunakan.

Seiring AI berkembang melampaui pelatihan model skala besar menuju inferensi, agen otonom, dan aplikasi waktu nyata, bagaimana Anda memperkirakan kebutuhan komputasi perusahaan akan berubah? Apakah pergeseran ini akan mengubah secara mendasar cara klaster GPU dirancang, diterapkan, dan didistribusikan secara geografis?

Pada akhirnya, inferensi akan menjadi bagian yang sangat besar dari pasar infrastruktur AI komersial, terutama ketika bisnis beralih dari membangun model ke menyematkan AI dalam produk, operasional, dan layanan yang berinteraksi langsung dengan pelanggan. Pelatihan berlangsung dalam lonjakan-lonjakan yang terkonsentrasi. Inferensi bergantung pada ketersediaan, latensi, kapasitas pemrosesan, dan kemampuan melayani jutaan permintaan secara terus-menerus. Agen menambahkan satu lapisan lagi: agen menjalankan banyak tugas dan berulang kali mengakses model dalam suatu alur kerja. Setiap permintaan mungkin kecil, tetapi total kebutuhannya cepat membesar. Saya memperkirakan klaster terpusat berskala besar akan terus menangani beban kerja yang berat, sementara kapasitas yang tersebar secara geografis akan melayani aplikasi yang mementingkan waktu respons dan lokasi penyimpanan data. Perusahaan juga akan semakin cermat dalam mencocokkan beban kerja dengan perangkat keras yang tepat, alih-alih beranggapan bahwa semuanya memerlukan GPU paling bertenaga. Yang membuat saya antusias adalah kebutuhan yang akan semakin beragam, dan hal itu menguntungkan penyedia yang mampu menawarkan kapasitas yang tepat, di lokasi yang tepat, dengan keekonomian yang tepat.

Membangun infrastruktur AI membutuhkan modal awal yang besar, sementara teknologi GPU terus berkembang pesat. Bagaimana Axe Compute menyikapi keekonomian dalam membiayai dan mengoperasikan klaster GPU khusus, dan bagaimana perusahaan dapat menghindari keterikatan pada perangkat keras mahal yang mungkin usang sebelum masa pakainya berakhir?

Mulailah dari kebutuhan pelanggan, bukan perangkat keras. Membeli peralatan mahal lalu berharap tingkat pemanfaatannya meningkat adalah pendekatan yang keliru. Ini bukan bisnis perangkat lunak: Anda berhadapan dengan aset fisik yang berat, waktu pembangunan yang panjang, serta teknologi yang meningkat pesat dalam waktu singkat. Di Axe Compute, pendekatan kami bertumpu pada permintaan yang telah dikontrak, penerapan yang disiplin, dan infrastruktur yang dirancang untuk pelanggan yang membutuhkan kapasitas berkelanjutan. Keusangan memang nyata, tetapi GPU yang bukan lagi model terbaru bukan berarti tidak memiliki nilai komersial. Tidak semua aplikasi inferensi atau sistem AI perusahaan membutuhkan perangkat keras generasi terbaru, dan masa produktif infrastruktur yang sudah ada dapat diperpanjang melalui alokasi beban kerja yang cermat. Pelanggan sebaiknya mempertimbangkan keekonomian selama keseluruhan masa kontrak: tingkat pemanfaatan, kebutuhan kinerja, dan fleksibilitas seiring perkembangan teknologi. Tujuannya adalah memastikan masa manfaat ekonomi infrastruktur sepadan dengan modal yang ditanamkan, bukan membangun model bisnis yang bergantung pada perangkat keras untuk mempertahankan nilai awalnya selamanya.

Dalam tiga hingga lima tahun ke depan, di mana Anda melihat peluang terbesar untuk inovasi dan investasi dalam infrastruktur AI? Apakah menurut Anda pasar akan tetap terkonsentrasi pada penyedia layanan hiperskala dan penyedia GPU besar, atau dapatkah perusahaan infrastruktur khusus mengubah secara mendasar cara perusahaan mengakses daya komputasi AI?

Pasar sebesar dan serumit ini tidak akan dilayani secara efisien oleh segelintir penyedia yang menjalankan model infrastruktur yang sama. Penyedia layanan hiperskala akan tetap sangat penting, tetapi saya sangat optimistis terhadap operator khusus dalam tiga hingga lima tahun ke depan. Kita masih berada pada tahap awal dalam mengubah investasi AI menjadi infrastruktur yang diandalkan bisnis setiap hari. Kebutuhan perusahaan berbeda-beda dalam hal kinerja, kedaulatan data, biaya, jadwal, dan lokasi, sehingga tersedia peluang nyata bagi operator seperti kami. Peluang investasi yang paling menarik bagi saya adalah infrastruktur tenaga listrik, sistem pendinginan yang lebih efisien, jaringan canggih, dan perangkat lunak yang meningkatkan pemanfaatan GPU, karena semua itu secara langsung memengaruhi keekonomian AI. Pembiayaan juga akan berkembang seiring meningkatnya kenyamanan investor terhadap aset dan arus kas dari kapasitas yang telah dikontrak. Bagi Axe Compute, peluangnya adalah membantu mengembangkan pasar ini dengan membuat kapasitas AI khusus lebih mudah diakses, lebih terprediksi, dan lebih mudah ditingkatkan skalanya bagi organisasi yang serius menerapkan AI dalam produksi. Itulah yang kami maksud dengan komputasi tanpa kompromi.

Terima kasih atas wawancara yang menarik ini. Pembaca yang ingin menjajaki kapasitas GPU khusus dan infrastruktur AI perusahaan dapat mengunjungi Axe Compute.