Denise Muyco, Salah Satu Pendiri dan CEO RAVEL – Seri Wawancara

Denise Muyco adalah salah satu pendiri sekaligus CEO RAVEL. Di perusahaan tersebut, ia memimpin pengembangan perangkat lunak orkestrasi untuk komputasi kompleks dan infrastruktur AI. Sebagai insinyur terlatih, ia memiliki pengalaman di bidang infrastruktur ketenagalistrikan, optimalisasi proses, media digital, pusat data, dan studio virtual. Sebelum berfokus pada AI, ia turut mengembangkan infrastruktur komputasi berkinerja tinggi bersama bagi komunitas efek visual di Vancouver, sehingga sekitar 30 studio dapat mengakses sumber daya komputasi dan konektivitas yang aman. Pengalaman itu membentuk pendekatannya dalam mengoordinasikan sumber daya yang mahal dan terbatas. Di RAVEL, ia menerapkan perspektif rekayasa sistem pada penempatan beban kerja, pemanfaatan infrastruktur, interoperabilitas, serta meningkatnya kebutuhan lingkungan AI terdistribusi dan berdaulat.

RAVEL mengembangkan perangkat lunak yang membantu organisasi menerapkan, mengelola, dan meningkatkan skala beban kerja komputasi dan AI di berbagai infrastruktur cloud, lokal, maupun hibrida. Produk-produknya mencakup RAVEL Orchestrate untuk stasiun kerja virtual berkinerja tinggi, RAVEL Orchestrate AI untuk otomatisasi dan optimalisasi beban kerja, serta Boost untuk lisensi perangkat lunak dan telemetri. Perangkat perusahaan ini menghubungkan infrastruktur, aplikasi, virtualisasi, dan keamanan, sekaligus menyediakan kontrol terpusat dan visibilitas operasional. RAVEL melayani pusat data, penyedia layanan, tim TI perusahaan, kelompok riset AI, dan studio kreatif. Berangkat dari kiprahnya di bidang pembuatan konten digital, perusahaan ini berfokus pada penyederhanaan lingkungan yang kompleks dan membantu tim memanfaatkan infrastruktur yang tersedia dengan lebih efektif.

Anda mendirikan RAVEL setelah bertahun-tahun bekerja di persimpangan rekayasa, infrastruktur media, dan komputasi terdistribusi. Apa yang akhirnya mendorong Anda mendirikan perusahaan ini, dan bagaimana misi RAVEL berkembang seiring AI generatif meningkatkan permintaan komputasi secara drastis?

Saya berlatarkan pendidikan teknik dan telah lama bekerja di persimpangan bidang ketenagalistrikan, komputasi, dan infrastruktur, jauh sebelum ledakan AI saat ini. Pada awal karier, saya menjalani magang di pembangkit listrik tenaga nuklir. Kemudian, pekerjaan saya di bidang media dan efek visual memperkenalkan saya pada GPU, kebutuhan komputasi yang besar, dan keterbatasan infrastruktur fisik.

Sekitar 16 tahun lalu, industri efek visual Vancouver yang sedang berkembang menghadapi keterbatasan tersebut secara langsung. Studio membutuhkan komputasi berkinerja tinggi dalam jumlah sangat besar untuk memproses (atau merender) konten film dan televisi yang semakin kompleks bagi proyek-proyek bernilai tinggi. Namun, hanya sedikit yang mampu membenarkan pembangunan infrastruktur khusus dalam jumlah memadai untuk memenuhi kebutuhan puncak di lingkungan yang aman. Pasokan listrik juga mulai menjadi kendala. Kami mengembangkan infrastruktur bersama yang memberi sekitar 30 studio akses ke komputasi berkinerja tinggi serta konektivitas yang aman dan berkapasitas tinggi.

Berbagi infrastruktur menyelesaikan satu masalah, tetapi menimbulkan masalah lain: bagaimana mengalokasikan sumber daya yang mahal dan terbatas secara efisien di antara berbagai organisasi dan beban kerja? Pengalaman itu pada akhirnya mendorong pendekatan RAVEL terhadap orkestrasi infrastruktur cerdas.

AI merupakan versi yang jauh lebih besar dari tantangan mendasar yang sama, dengan kompleksitas dan modal yang dipertaruhkan jauh lebih besar. Beban kerja dan infrastrukturnya telah berubah, tetapi kebutuhan untuk membuat sumber daya yang mahal dan terbatas bekerja bersama secara efisien justru semakin penting.

Sebelum mendirikan RAVEL, Anda turut membentuk konsorsium yang terdiri atas sekitar 30 studio, panggung suara, perusahaan produksi, dan rumah produksi efek visual di Vancouver. Mereka dapat berbagi akses ke infrastruktur komputasi berkinerja tinggi. Apa yang Anda pelajari dari pengalaman itu tentang komputasi terdistribusi, dan apa persamaan antara tantangan rendering di Hollywood saat itu dengan tantangan infrastruktur industri AI saat ini?

Pengalaman saya di industri efek visual mengajarkan bahwa membangun dan mengonfigurasi infrastruktur hanyalah setengah dari persoalan. Sumber daya komputasi yang mahal harus digunakan bersama secara aman dan efisien, sementara infrastruktur yang lebih luas—termasuk jaringan aman yang mampu memindahkan berkas berukuran sangat besar—harus bekerja secara terpadu. Beban kerja perlu dijadwalkan, kapasitas dialokasikan, dan data dalam jumlah masif dipindahkan, sementara tim produksi terus berupaya mencapai hasil yang semakin ambisius dengan anggaran dan tenggat yang ketat. Infrastruktur harus terus dioptimalkan untuk pemanfaatan dan kinerja.

AI merupakan versi yang jauh lebih besar dari tantangan mendasar yang sama. Organisasi berinvestasi besar-besaran dalam infrastruktur, tetapi penambahan kapasitas saja tidak menjamin bahwa sumber daya yang mahal akan digunakan secara efisien. Infrastruktur AI juga semakin tersebar di berbagai lokasi, penyedia, dan lingkungan, karena dipengaruhi oleh kebutuhan terkait daya, kapasitas, keamanan, ekonomi, geografi, regulasi, dan kedaulatan. Beban kerja rendering dan AI bisa sangat berbeda, tetapi keduanya menghadapi tantangan penting yang sama dalam hal infrastruktur dan ekosistem: keduanya bergantung pada kerja sama yang efisien antara komputasi berkinerja tinggi, jaringan, keamanan, dan penyimpanan.

Seiring bertambah kompleksnya infrastruktur AI, sekadar menambah kapasitas komputasi tidak menyelesaikan tantangan operasional untuk memanfaatkan kapasitas itu secara efisien. Di sinilah orkestrasi dan kebijakan yang mengatur ekosistem infrastruktur secara lebih luas menjadi sangat penting. Keduanya membantu organisasi memanfaatkan sumber daya yang mahal dan terbatas dengan lebih baik, sekaligus mengoordinasikan beban kerja di lingkungan yang semakin tersebar.

RAVEL menyebut dirinya sebagai lapisan orkestrasi untuk pabrik AI terdistribusi. Apa arti “pabrik AI” bagi Anda, dan apa yang belum tersedia dalam tumpukan infrastruktur saat ini sehingga lapisan orkestrasi diperlukan?

Menurut saya, pabrik AI lebih dari sekadar GPU dan klaster berperforma tinggi; pabrik AI merupakan ekosistem infrastruktur terpadu yang menyatukan komputasi, jaringan, penyimpanan, keamanan, daya, pendinginan, serta lapisan operasional yang diperlukan untuk menjalankan beban kerja AI. Pabrik AI berkembang dari klaster terisolasi menjadi ekosistem sumber daya yang saling terhubung di berbagai lokasi dan wilayah. Kompleksitas ini semakin sulit dikelola secara manual atau dengan solusi-solusi terpisah. Lapisan orkestrasi mengatasi hal ini dengan mengoordinasikan berbagai komponen tumpukan yang kompleks dan menyederhanakan sebagian kompleksitas yang mendasarinya, sehingga operator lebih mudah mengelola infrastruktur sebagai sebuah sistem terpadu.

Saat organisasi menyesuaikan pusat data yang sudah ada untuk AI, banyak fasilitas tersebut pada awalnya tidak dirancang untuk memenuhi tuntutan beban kerja AI saat ini. AI kini menghadapi ketidakselarasan struktural yang terbagi menjadi tiga masalah utama. Pertama, daya: mencari lokasi dengan pasokan daya yang cukup dan andal untuk menjalankan beban kerja dalam skala besar. Kedua, fragmentasi ekosistem, karena tumpukan AI sering kali terbagi di lingkungan-lingkungan terisolasi dan tidak dirancang untuk bekerja bersama. Ketiga, terbatasnya visibilitas terhadap total biaya operasi dan kepemilikan, yang dapat menyamarkan biaya sebenarnya dari infrastruktur AI. Akibatnya, beban kerja bisa jadi tidak dioptimalkan, perangkat keras bisa kurang dimanfaatkan, dan biaya operasional tak terduga dapat meningkatkan total biaya kepemilikan, yang pada akhirnya berkontribusi pada biaya token yang lebih tinggi.

Infrastruktur AI semakin tersebar di berbagai layanan cloud berskala besar, pusat data privat, sistem di lokasi, dan penyedia GPU khusus. Apa tantangan terbesar yang dihadapi organisasi saat mencoba mengelola beban kerja AI di berbagai lingkungan ini?

Selama beberapa tahun terakhir, perlombaan infrastruktur AI didasarkan pada asumsi sederhana: bangun lebih besar. Pusat data lebih besar. Klaster lebih besar. Lebih banyak GPU. Kapasitas lebih besar. Namun, model membangun lebih besar ini semakin terbentur kendala fisik, ekonomi, dan regulasi.

Pasokan daya terbatas. Akses ke jaringan listrik membutuhkan waktu. Pertimbangan ekonomi, geografi, dan kedaulatan semakin menentukan lokasi tempat infrastruktur dapat dan seharusnya dibangun. Tantangan baru bukan sekadar cara membangun lebih banyak infrastruktur AI, melainkan cara membangun infrastruktur yang tepat di tempat yang tepat, sembari memastikan semua lingkungan tersebut beroperasi sebagai sistem terpadu. Hal ini menjadi sangat sulit ketika kapasitas tersebar di berbagai layanan cloud berskala besar, pusat data privat, infrastruktur di lokasi, dan penyedia khusus yang belum tentu dirancang untuk beroperasi bersama.

Daya merupakan kendala paling berat di antara kendala-kendala ini. Ketersediaan daya semakin menentukan lokasi pembangunan infrastruktur AI sejak awal.

Di sinilah federasi menjadi sangat penting. Federasi menghubungkan infrastruktur di berbagai lingkungan ke dalam satu lingkungan operasional bersama. Selanjutnya, orkestrasi cerdas menentukan tempat beban kerja sebaiknya dijalankan berdasarkan kapasitas, daya, kinerja, biaya, kebijakan, ketahanan, dan kedaulatan.

Seiring semakin tersebarnya infrastruktur AI, baik ke berbagai lokasi maupun penyedia, keunggulan kompetitif tidak akan diperoleh hanya dengan memiliki kapasitas yang lebih besar. Keunggulan itu akan datang dari kemampuan membuat kapasitas tersebut bekerja bersama. Federasi menciptakan model infrastruktur untuk realitas baru ini, sementara orkestrasi cerdas membuat model tersebut dapat diterapkan secara operasional dalam skala besar.

Inilah model yang dijalankan salah satu pelanggan kami, RT-One, pengembang kawasan teknologi AI dan pusat data terbesar di Amerika Latin, saat merencanakan infrastruktur terfederasi di seluruh benua Amerika: menghubungkan kapasitas yang tersebar agar pada akhirnya dapat dikelola sebagai lingkungan terpadu.

Kelangkaan GPU telah banyak mendapat perhatian, tetapi menambahkan lebih banyak akselerator saja belum tentu menghasilkan komputasi AI yang lebih berguna. Menurut Anda, di mana sumber inefisiensi terbesar dalam infrastruktur AI saat ini, dan berapa banyak kapasitas tambahan yang dapat dibuka oleh perusahaan melalui orkestrasi yang lebih baik?

Perlombaan infrastruktur AI sangat berfokus pada berapa gigawatt kapasitas baru yang direncanakan dan berapa banyak modal yang dialokasikan untuk membangunnya. Kita mungkin tergoda untuk menganggap masalah infrastruktur AI sekadar kekurangan GPU atau kapasitas, tetapi cara pandang ini mengabaikan sumber inefisiensi yang sebenarnya. Perlu dicatat bahwa kapasitas yang direncanakan tidak sama dengan kapasitas yang dapat digunakan.

Klaster GPU mungkin tampak terpakai penuh, tetapi GPU mahal tetap bisa menganggur ketika hambatan kinerja muncul di bagian lain tumpukan. Hambatan ini dapat mencakup kapasitas aliran data penyimpanan, alur data, kemacetan jaringan, ketidakefisienan penjadwalan pekerjaan, persyaratan keamanan, serta ketidakcocokan antara arsitektur, aplikasi, driver, dan dependensi. Menambahkan GPU tidak selalu menghasilkan komputasi tambahan yang dapat digunakan.

Menambahkan lebih banyak infrastruktur tidak otomatis meningkatkan efisiensi. Dalam banyak kasus, hal itu justru menciptakan lebih banyak silo sekaligus meningkatkan biaya.

Organisasi membutuhkan visibilitas dan kendali yang lebih baik agar dapat meningkatkan pemanfaatan, mengotomatiskan pengambilan keputusan terkait infrastruktur, serta menyelaraskan beban kerja dengan sumber daya dan prioritas bisnis yang tersedia. Visibilitas dan kendali yang lebih baik dapat membantu mengubah sekumpulan sumber daya infrastruktur menjadi lingkungan operasional yang lebih terkoordinasi. Tidak ada angka pasti atau universal yang menunjukkan kapasitas berapa banyak yang dapat dioptimalkan melalui orkestrasi; setiap beban kerja memiliki kebutuhan yang unik. Namun, satu hal yang jelas: solusi untuk kapasitas yang tidak terpakai atau kurang dimanfaatkan bukan sekadar membeli atau membangun lebih banyak infrastruktur.

RAVEL menekankan interoperabilitas antara infrastruktur, teknologi virtualisasi, sistem identitas, dan aplikasi. Mengapa interoperabilitas menjadi sangat penting seiring makin kompleks dan tersebarnya beban kerja AI?

Seiring infrastruktur menjadi semakin beragam, organisasi membutuhkan fleksibilitas untuk menggunakan berbagai teknologi dan lingkungan tanpa menciptakan lebih banyak silo infrastruktur yang terisolasi. Interoperabilitas memungkinkan komputasi, penyimpanan, jaringan, dan aplikasi dari berbagai vendor dan lingkungan bekerja bersama, sehingga pilihan tetap terbuka seiring perkembangan infrastruktur. Namun, interoperabilitas saja tidak menentukan bagaimana sumber daya tersebut sebaiknya digunakan.

Di sinilah orkestrasi berperan—mengkoordinasikan lokasi beban kerja dijalankan, cara beban kerja dipindahkan, dan penerapan kebijakan di berbagai lingkungan. Seiring infrastruktur AI semakin tersebar dan terfederasi, interoperabilitas memberikan fleksibilitas untuk beroperasi di berbagai teknologi, sementara orkestrasi mengubah sumber daya tersebut menjadi lingkungan operasional yang terkoordinasi.

RAVEL Orchestrate AI menyediakan lapisan orkestrasi bersama untuk komputasi, penyimpanan, jaringan, dan teknologi infrastruktur lainnya, serta mengkoordinasikan beban kerja AI di lingkungan cloud, lokal, dan hibrida.

Kedaulatan data menjadi pertimbangan utama bagi pemerintah dan perusahaan yang menerapkan AI. Bagaimana pertumbuhan infrastruktur AI berdaulat mengubah cara organisasi memikirkan penempatan beban kerja, pemindahan data, keamanan, dan orkestrasi?

AI berdaulat kini menjadi prioritas strategis. Seiring dengan itu, muncul pertanyaan yang lebih mendasar: Apa sebenarnya arti kedaulatan? Diskusi selama ini sebagian besar berfokus pada lokasi penyimpanan data, tetapi menurut saya, definisi tersebut terlalu sempit.

Saya mendefinisikan AI berdaulat sebagai kemampuan suatu negara, perusahaan, lembaga pemerintah, atau organisasi lain untuk mempertahankan kendali atas beban kerja AI mereka sesuai kebijakan—termasuk kendali atas data, model, infrastruktur komputasi, akses, keamanan, operasional, dan yurisdiksi yang mengatur beban kerja tersebut. Kedaulatan tidak serta-merta berarti setiap beban kerja harus tetap berada di satu pusat data atau bahkan di infrastruktur milik satu organisasi. Sebaliknya, artinya organisasi menentukan lokasi yang diizinkan untuk menjalankan beban kerja, lokasi penyimpanan atau jalur perpindahan datanya, pihak yang dapat mengaksesnya, infrastruktur yang boleh menjalankannya, serta kebijakan keamanan, peraturan, geografis, operasional, dan bisnis yang harus selalu dipatuhi. Definisi yang berpusat pada beban kerja ini sejalan dengan perkembangan industri yang lebih luas, yakni memandang kedaulatan sebagai kendali atas seluruh lingkungan AI, bukan hanya lokasi penyimpanan data.

Pendekatan RAVEL memiliki keunikan tersendiri ketika AI berdaulat berpadu dengan federasi. RAVEL Orchestrate AI dapat memperlakukan persyaratan kedaulatan sebagai batasan dalam lapisan orkestrasi dan kebijakan: suatu beban kerja mungkin memenuhi syarat untuk dijalankan di berbagai lokasi, cloud, pusat data, lokasi komputasi tepi, atau infrastruktur lain dalam suatu federasi, tetapi hanya pada sumber daya yang memenuhi kebijakan kedaulatan beban kerja tersebut. Di dalam batas yang disetujui itu, RAVEL kemudian dapat menentukan infrastruktur yang sesuai berdasarkan faktor-faktor seperti daya, biaya, kinerja, kapasitas, pemanfaatan, karakteristik jaringan, lokasi, dan prioritas. Federasi tidak menghapus kedaulatan; sebaliknya, federasi dapat beroperasi di dalam batas yang ditetapkan oleh kedaulatan. Misalnya, beban kerja pemerintah yang sensitif dapat tetap sepenuhnya berada di fasilitas AS yang disetujui, sekaligus diorkestrasi secara dinamis di antara beberapa lokasi yang berwenang. Hasilnya adalah model yang memungkinkan organisasi memperoleh manfaat pemanfaatan dan ketahanan dari infrastruktur AI terdistribusi tanpa melepaskan kendali atas lokasi dan cara beroperasinya beban kerja mereka yang paling sensitif.

RAVEL bermula di industri seperti media, hiburan, gim, dan desain, yang beban kerjanya dapat sangat intensif komputasi. Bagaimana kebutuhan AI generatif mengubah platform ini dibandingkan dengan tantangan infrastruktur yang awalnya ingin Anda atasi bagi para profesional kreatif?

RAVEL lahir untuk mengatasi masalah infrastruktur yang dihadapi para seniman dan insinyur, yang saat itu sudah menjalankan beban kerja rendering, simulasi, dan pembuatan konten berskala besar dengan sumber daya komputasi, penyimpanan, dan jaringan yang mahal. Tantangan utamanya adalah membuat infrastruktur yang beragam lebih mudah diakses, digunakan bersama, dan diorkestrasi, sekaligus memaksimalkan pemanfaatan dan kinerja.

AI generatif telah meningkatkan skala dan kompleksitas masalah yang sama secara drastis. Alih-alih terutama mengorkestrasi aplikasi dan beban kerja rendering, kini kami harus memperhitungkan model, mesin, agen, beban kerja pelatihan dan inferensi AI, beragam arsitektur GPU, tumpukan perangkat lunak yang berubah dengan cepat, perpindahan data dalam jumlah sangat besar, serta batasan yang jauh lebih ketat terkait daya, biaya, keamanan, dan ketersediaan.

Akibatnya, RAVEL berkembang dari platform yang terutama mengorkestrasi komputasi menjadi penyedia lapisan kendali dan optimasi cerdas untuk infrastruktur AI. Orchestrate AI menggunakan telemetri dan kebijakan untuk menentukan bukan hanya apakah infrastruktur tersedia, tetapi juga di mana dan bagaimana suatu beban kerja sebaiknya dijalankan berdasarkan faktor-faktor seperti biaya, kecepatan, daya, kinerja, tingkat pemanfaatan, lokasi, dan persyaratan kedaulatan.

Federasi juga semakin penting karena infrastruktur AI tidak lagi dapat diperlakukan sebagai kumpulan pusat data yang terpisah; organisasi perlu memiliki kemampuan untuk memanfaatkan kapasitas di berbagai lokasi secara cerdas sembari mempertahankan tata kelola dan keamanan. Dalam banyak hal, AI generatif tidak mengubah masalah mendasar yang hendak diatasi RAVEL—AI generatif membuat masalah tersebut jauh lebih besar dan kompleks, sehingga orkestrasi, optimasi, dan federasi yang cerdas menjadi semakin penting.

Karier Anda membawa Anda dari bidang teknik mesin dan optimasi proses di Starbucks ke media digital, pusat data, studio virtual, dan kini infrastruktur AI. Bagaimana latar belakang teknik tersebut memengaruhi cara Anda membangun perusahaan dan memecahkan masalah infrastruktur?

Latar belakang teknik saya mungkin telah memengaruhi hampir semua aspek cara saya membangun perusahaan. Teknik mesin mengajarkan kita untuk melihat suatu sistem—bukan hanya komponen individual—dan mencari tahu di mana letak kendalanya, di mana energi atau sumber daya terbuang, serta bagaimana meningkatkan kinerja keseluruhan sistem. Di Starbucks, saya menerapkan cara berpikir tersebut untuk mengoptimalkan proses; kemudian, di bidang media digital dan efek visual, sistem yang saya tangani mencakup komputasi, penyimpanan, jaringan, aplikasi, dan akhirnya seluruh pusat data. Teknologinya berubah, tetapi pendekatan saya terhadap masalah itu sebenarnya tidak. Saya selalu bertanya: Di mana letak hambatannya? Apa yang kurang dimanfaatkan? Apa yang bisa kita sederhanakan? Dan bagaimana kita membuat seluruh sistem bekerja lebih baik, alih-alih hanya mengoptimalkan salah satu bagiannya?

Begitulah cara kami membangun RAVEL. Menurut saya, masalah infrastruktur AI bukan sekadar soal mendapatkan lebih banyak GPU atau membangun lebih banyak pusat data. Ini adalah masalah rekayasa sistem yang melibatkan komputasi, daya, penyimpanan, jaringan, perangkat lunak, beban kerja, manusia, serta, yang semakin penting, geografi dan kedaulatan. Anda bisa memiliki GPU tercepat di dunia, tetapi jika bagian sistem lainnya tidak dioptimalkan, Anda hanya menciptakan hambatan yang sangat mahal. Karena itu, pendekatan kami di RAVEL adalah membuat infrastrukturnya sendiri lebih cerdas—dengan menggunakan telemetri, kebijakan, orkestrasi, dan federasi untuk terus menentukan bagaimana dan di mana beban kerja sebaiknya dijalankan. Saya memulai karier dengan mengoptimalkan sistem fisik; kini kami menerapkan disiplin rekayasa yang sama untuk mengoptimalkan infrastruktur yang mendukung AI.

Ke depan, bagaimana Anda memperkirakan infrastruktur AI akan berkembang seiring model, agen, dan aplikasi membutuhkan komputasi terdistribusi dalam jumlah yang semakin besar? Apakah Anda membayangkan pabrik AI menjadi lapisan infrastruktur perusahaan yang terstandardisasi, seperti halnya komputasi awan selama dekade terakhir?

Saya sangat yakin pabrik AI akan menjadi lapisan dasar infrastruktur perusahaan, seperti halnya komputasi awan—tetapi saya tidak membayangkannya sebagai satu pusat data atau layanan awan terstandardisasi. Seiring model, agen, dan aplikasi mengonsumsi daya komputasi dalam jumlah yang semakin besar, perusahaan akan beroperasi dengan beragam jenis GPU, CPU, infrastruktur privat, penyedia layanan awan generasi baru, penyedia awan berskala sangat besar, lingkungan komputasi tepi, dan sistem AI khusus.

Ketersediaan daya, biaya, kedaulatan, kinerja, dan lokasi akan sama pentingnya dengan ketersediaan komputasi. Tantangan sebenarnya bukan sekadar membangun lebih banyak infrastruktur, melainkan membuat seluruh infrastruktur terdistribusi itu berfungsi sebagai satu sistem cerdas. Pabrik AI masa depan bukanlah satu gedung—melainkan lingkungan infrastruktur terfederasi yang mencakup komputasi, daya, data, dan sumber daya yang diperlukan untuk menjalankan beban kerja AI di mana pun paling masuk akal.

Menurut saya, di sinilah lapisan infrastruktur besar berikutnya akan muncul. Komputasi awan mengabstraksikan server dan memudahkan penggunaan komputasi; langkah selanjutnya adalah mengabstraksikan kompleksitas seluruh tumpukan infrastruktur AI. Perusahaan seharusnya tidak perlu menentukan secara manual GPU, pusat data, layanan awan, sumber daya daya, atau wilayah geografis mana yang harus menjalankan setiap model atau agen. Infrastruktur semestinya semakin mampu mengambil keputusan tersebut sendiri, dengan menggunakan telemetri dan kebijakan untuk mengoptimalkan biaya, kecepatan, daya, kinerja, ketersediaan, dan kedaulatan. Itulah masa depan yang sedang kami bangun di RAVEL: lapisan orkestrasi cerdas yang memungkinkan beban kerja berpindah-pindah di dalam infrastruktur AI terfederasi, sembari mempertahankan kebijakan dan kendali organisasi. Komputasi awan menyediakan komputasi sesuai permintaan. Saya yakin generasi infrastruktur AI berikutnya akan menyediakan optimasi sesuai permintaan.

Terima kasih atas wawancara yang luar biasa ini. Pembaca yang ingin mengetahui lebih lanjut tentang cara mengorkestrasi beban kerja AI di berbagai infrastruktur terdistribusi dapat mengunjungi RAVEL.