Lior Koriat, CEO of Quali – Seri Wawancara

Lior Koriat, CEO of Quali, adalah eksekutif teknologi berpengalaman dan wirausaha dengan hampir dua dekade di Quali, di mana ia telah membantu membentuk perusahaan dari dasar teknik dan operasional awal menjadi penyedia global Environment as a Service yang mendukung cloud-agnostik untuk tim DevOps, IT, dan platform. Sejak menjadi CEO dan Anggota Dewan pada 2011, ia telah memimpin ekspansi Quali di seluruh Amerika Serikat, Eropa, Asia, dan Israel, membangun pada peran sebelumnya sebagai VP R&D, COO, dan CEO, di mana ia mendirikan teknik, penjualan, dukungan pelanggan, hukum, pengembangan bisnis, dan operasi internasional. Latar belakangnya juga termasuk mendirikan dan memimpin Intellitech Engineering, sebuah perusahaan teknik sistem dan mesin yang diakuisisi yang melayani pelanggan pertahanan dan sipil, serta peran mentor dengan Google Launchpad Accelerator dan UC Berkeley’s Sutardja Center for Entrepreneurship & Technology, di mana ia memberi saran kepada startup tentang strategi produk, eksekusi go-to-market, DevOps, dan penskalaan.

Quali mengembangkan perangkat lunak otomatisasi infrastruktur dan teknik platform yang dirancang untuk membantu organisasi menyediakan lingkungan cloud yang diatur dan self-service tanpa memperlambat tim pengembangan. Platform Torque mereka menyediakan lapisan self-service berbasis katalog untuk tim platform, memungkinkan blueprint yang disetujui, kontrol akses berbasis peran, manajemen siklus hidup, atribusi biaya, penegakan kebijakan, dan visibilitas waktu nyata di seluruh lingkungan. Quali memposisikan Torque sebagai cara untuk memstandarisasi pengiriman infrastruktur di seluruh pengaturan multi-cloud dan hybrid-cloud, dengan dukungan untuk kasus penggunaan seperti pengembangan perangkat lunak, pengujian, demo, pelatihan, penerapan proof-of-concept, MLOps, agentic AI, otomatisasi pipa CI/CD, dan GPU-as-a-Service. Portofolio produk yang lebih luas juga termasuk CloudShell, yang mengubah infrastruktur menjadi blok bangunan low-code atau no-code yang dapat digunakan kembali untuk lingkungan kompleks di seluruh infrastruktur on-premises dan cloud.

Anda mendirikan dan membesarkan beberapa perusahaan teknologi sebelum memimpin Quali, dan karir Anda mencakup sistem militer, robotika, teknik infrastruktur, dan otomatisasi cloud. Bagaimana pengalaman tersebut mempengaruhi visi Anda dalam membangun platform infrastruktur AI, dan apa yang membuat Anda yakin bahwa ini adalah saat yang tepat untuk fokus pada manajemen infrastruktur AI-native?

Karir saya secara konsisten berfokus pada sistem kompleks yang harus beroperasi secara andal dalam kondisi yang menantang. Saya memulai di robotika dan aerospasial, mengembangkan sistem otomatisasi dan simulasi untuk aplikasi pertahanan, di mana keulangan dan tata kelola merupakan persyaratan operasional daripada preferensi teknik. Lingkungan tersebut mengajarkan saya bahwa masalah terberat muncul di mana beberapa sistem dan proses harus bekerja bersama secara konsisten dari waktu ke waktu.

Perspektif itu membawa saya ke Quali. Selama dekade terakhir, infrastruktur perusahaan telah menjadi semakin terdistribusi di seluruh lapisan yang berbeda. Setiap lapisan baru memecahkan masalah teknis tertentu, tetapi juga memperkenalkan antarmuka manajemen lain, alur kerja operasional lain, dan sumber kompleksitas lain. Organisasi menjadi sangat baik dalam membuat infrastruktur, namun kurang efektif dalam mengaturinya setelah itu ada.

AI mempercepat ketidakseimbangan itu, dan tantangan operasional semakin menentukan apakah inisiatif AI mencapai produksi atau tetap terjebak dalam tahap pilot. Itulah mengapa saya percaya bahwa manajemen infrastruktur AI-native telah menjadi perlu. Tantangan itu adalah mengoperasikan infrastruktur AI secara terus-menerus di seluruh lingkungan heterogen sambil mempertahankan tata kelola, keamanan, dan disiplin biaya sambil mengoptimalkan utilitas.

AI berdaulat telah menjadi prioritas bagi pemerintah dan perusahaan. Apa yang paling tidak dipahami oleh sebagian besar organisasi tentang kedaulatan, dan mengapa Anda percaya bahwa tata kelola infrastruktur menjadi sama pentingnya dengan kepemilikan model?

Banyak diskusi tentang AI berdaulat fokus pada tempat tinggal data dan kepemilikan infrastruktur. Itu adalah komponen yang diperlukan, tetapi itu hanya menangani sebagian dari kenyataan operasional.

Saat organisasi mulai mengirimkan agen otonom, pertanyaan utama bergeser dari di mana infrastruktur berada ke bagaimana sistem AI beroperasi di dalam infrastruktur itu. Agen modern menyediakan sumber daya, mengambil informasi, memulai alur kerja, dan berinteraksi dengan sistem produksi. Setiap tindakan tersebut memerlukan penegakan kebijakan.

Itu mengubah cara kedaulatan harus dievaluasi. Memiliki infrastruktur tidak secara otomatis menyediakan kontrol operasional jika sistem AI dapat melaksanakan tindakan tanpa tata kelola yang deterministik. Perusahaan perlu menunjukkan siapa yang memulai tindakan, apa kebijakan yang mengatur itu, apa sumber daya yang diakses, dan bagaimana keputusan tersebut dapat diaudit. Tantangan itu adalah mengoperasikan infrastruktur AI secara terus-menerus di seluruh lingkungan heterogen sambil mempertahankan tata kelola, keamanan, dan disiplin biaya sambil mengoptimalkan utilitas.

Saya percaya bahwa tata kelola infrastruktur akan menjadi sama strategisnya dengan pengembangan model karena menyediakan kerangka operasional yang memungkinkan organisasi untuk menskalakan AI secara bertanggung jawab. Saat perusahaan mengadopsi beberapa model, beberapa cloud, dan alur kerja otonom yang semakin meningkat, tata kelola menjadi lapisan yang menjaga lingkungan tersebut aman dan akuntabel di seluruh infrastruktur.

Agen AI semakin diberi wewenang untuk menyediakan sumber daya, mengirimkan beban kerja, dan membuat keputusan operasional. Apa yang harus ada sebelum perusahaan dapat mempercayai sistem otonom dengan infrastruktur kritis?

Banyak organisasi sudah mengirimkan agen AI di produksi. Pertanyaannya adalah bagaimana agen tersebut beroperasi dalam batasan yang jelas.

Persyaratan pertama adalah penegakan kebijakan yang deterministik pada lapisan eksekusi. Agen harus hanya dapat melakukan tindakan yang sesuai dengan kebijakan infrastruktur yang telah ditetapkan. Kebijakan tersebut tidak boleh bergantung pada model yang menentukan apakah tindakan itu tepat. Mereka perlu ditegakkan secara independen dari model itu sendiri.

Kontrol akses sama pentingnya. Izin yang persisten menciptakan risiko operasional yang tidak perlu. Akses harus disediakan untuk tugas tertentu yang sedang dilakukan, terbatas pada sumber daya yang diperlukan, dan dicabut secara otomatis setelah pekerjaan selesai. Model itu memungkinkan organisasi untuk memperluas otomatisasi tanpa memperluas permukaan serangan.

Setiap tindakan juga memerlukan jejak audit yang lengkap. Saat sistem AI menjadi lebih otonom, perusahaan perlu memahami agen mana yang melakukan tindakan, kapan itu terjadi, apa kebijakan yang mengizinkan itu, dan apa perubahan yang dilakukan. Tingkat jejak yang seperti itu mendukung pemecahan masalah operasional serta kepatuhan regulasi.

Saya juga percaya bahwa infrastruktur otonom harus beroperasi dalam lingkungan yang diatur daripada di seluruh infrastruktur yang tidak terbatas. Lingkungan yang terdefinisi dengan baik menyediakan batasan sumber daya yang eksplisit, kontrol siklus hidup, dan kebijakan operasional sebelum agen mulai mengirimkan beban kerja. Itu memungkinkan organisasi untuk meningkatkan otomatisasi sambil mempertahankan perilaku operasional yang dapat diprediksi saat penerapan AI terus berkembang.

Anda sering membahas pergeseran dari otomatisasi tradisional ke apa yang Anda sebut sebagai kontrol plan yang cerdas. Apa yang secara fundamental berubah ketika infrastruktur mulai beroperasi berdasarkan niat daripada aturan statis dan alur kerja?

Otomatisasi tradisional melaksanakan langkah yang telah ditetapkan sebelumnya. Itu berfungsi ketika infrastruktur dapat diprediksi, beban kerja stabil, dan perubahan terjadi melalui alur kerja yang dikelola oleh manusia. Infrastruktur AI tidak beroperasi dengan cara itu.

Beban kerja AI dinamis. Permintaan GPU berubah dengan cepat, lingkungan dibuat dan dihancurkan dengan sering, dan agen mungkin perlu mengakses sumber daya untuk tugas tertentu. Kontrol plan yang cerdas memahami tujuan lingkungan, siapa yang memiliki itu, berapa biayanya, apa kebijakan yang berlaku, dan apakah keadaan live masih sesuai dengan keadaan yang diinginkan.

Itu mengubah manajemen infrastruktur. Sistem dapat mendeteksi drift, merekomendasikan optimasi, menegakkan kebijakan, dan mengelola keputusan siklus hidup terhadap hasil yang diinginkan daripada skrip statis.

Infrastruktur GPU telah menjadi salah satu bottleneck terbesar dalam penerapan AI. Apakah Anda percaya bahwa industri mendekati utilitas GPU secara salah, dan apa perubahan operasional yang dapat meningkatkan efisiensi secara dramatis tanpa hanya menambahkan lebih banyak perangkat keras?

Industri sering mengobati masalah GPU sebagai masalah pengadaan. Dalam banyak perusahaan, masalah yang lebih segera adalah utilitas.

Kami melihat organisasi dengan klaster GPU yang dialokasikan untuk permintaan puncak, menganggur antara pelatihan, atau tetap terhubung ke lingkungan setelah pekerjaan selesai. Itu menciptakan biaya tinggi tanpa mencocokkan nilai bisnis.

Memperbaiki efisiensi GPU dimulai dengan kontrol siklus hidup. Lingkungan harus disediakan sesuai permintaan, sesuai dengan beban kerja, diatribusikan ke tim atau proyek, dan dihancurkan secara otomatis ketika tugas selesai. Perusahaan juga perlu visibilitas ke utilitas, biaya per beban kerja, dan tujuan bisnis di balik setiap lingkungan.

Menambahkan perangkat keras mungkin masih diperlukan, tetapi kapasitas GPU yang tidak dikelola hanya memperluas masalah biaya.

Banyak perusahaan sekarang beroperasi di seluruh cloud publik, cloud pribadi, lingkungan on-premises, dan infrastruktur edge. Bagaimana Anda melihat lingkungan AI hybrid berkembang dalam lima tahun ke depan, dan apa tantangan yang masih belum terpecahkan hari ini?

AI hybrid akan menjadi model default perusahaan. Organisasi akan menggunakan cloud publik untuk fleksibilitas, infrastruktur on-premises untuk kontrol dan manajemen biaya, dan lingkungan edge di mana latency, lokalitas data, atau persyaratan operasional menuntut itu.

Tantangan yang belum terpecahkan adalah konsistensi. Sebagian besar perusahaan sudah beroperasi di seluruh vendor, cloud, alat otomatisasi, dan jenis infrastruktur yang berbeda. AI menambahkan klaster GPU, lingkungan penyajian model, pipa fine-tuning, dan beban kerja agen ke campuran itu.

Di lima tahun ke depan, organisasi terkemuka akan menciptakan satu standar operasional di seluruh lingkungan tersebut. Mereka perlu penyediaan yang konsisten, penegakan kebijakan, atribusi biaya, auditabilitas, dan manajemen siklus hidup, terlepas dari di mana beban kerja berjalan.

DevOps mengubah pengiriman perangkat lunak selama dekade terakhir. Apakah Anda percaya bahwa infrastruktur AI memerlukan model operasional yang sama sekali baru, atau apakah itu evolusi alami dari DevOps dan teknik platform?

Infrastruktur AI memperluas DevOps, tetapi juga memperkenalkan persyaratan yang tidak ditangani oleh praktik DevOps tradisional.

DevOps memperbaiki pengiriman perangkat lunak dengan memstandarisasi pipa, mengotomatisasi pekerjaan yang dapat diulang, dan memberikan tim akses lebih cepat ke sumber daya yang mereka butuhkan. Infrastruktur AI memerlukan disiplin yang sama, tetapi beban kerja lebih intensif sumber daya, kurang dapat diprediksi, dan lebih bergantung pada infrastruktur khusus.

Teknik platform menjadi sentral dalam lingkungan ini. Tim memerlukan akses self-service yang diatur ke lingkungan yang divalidasi, bukan penyediaan berbasis tiket atau konfigurasi manual satu kali. Model operasional masih menghargai kecepatan dan otomatisasi, tetapi juga memerlukan tata kelola yang lebih kuat, kontrol biaya, dan konteks infrastruktur dari awal.

Operasi tanpa sentuhan telah lama menjadi tujuan dalam manajemen infrastruktur. Seberapa dekat kita dengan infrastruktur yang benar-benar otonom, dan apa barrier teknis dan organisasional terbesar yang masih menghalangi?

Kita jauh lebih dekat dengan infrastruktur otonom daripada yang banyak orang sadari, tetapi faktor pembatas adalah tata kelola daripada otomatisasi. Agen AI sudah dapat menyediakan lingkungan, mengirimkan beban kerja, menyelidiki anomali, dan merekomendasikan perbaikan. Tantangan itu adalah memastikan tindakan tersebut terjadi dalam batasan kebijakan yang jelas.

Organisasi juga perlu keyakinan bahwa sistem otonom dapat menjelaskan apa yang mereka lakukan, mengapa mereka melakukannya, dan di bawah kebijakan apa mereka bertindak. Tingkat jejak yang seperti itu masih hilang dalam banyak lingkungan perusahaan. Infrastruktur otonom akan menjadi arus utama ketika tata kelola, auditabilitas, dan penegakan kebijakan dibangun ke dalam lapisan operasional daripada ditambahkan kemudian.

Saat beban kerja AI menjadi lebih dinamis dan intensif sumber daya, kelebihan biaya menjadi kekhawatiran utama. Apa kesalahan paling umum yang dilakukan perusahaan saat mencoba menskalakan infrastruktur AI, dan bagaimana mereka dapat menghindarinya?

Banyak organisasi fokus pada pengadaan lebih banyak komputasi sebelum memahami seberapa efisien mereka menggunakan infrastruktur yang sudah mereka miliki.

Kami secara teratur melihat lingkungan yang tetap aktif setelah proyek selesai, sumber daya GPU yang dipesan untuk beban kerja yang tidak pernah berjalan, dan sedikit visibilitas ke dalam infrastruktur yang menghabiskan biaya. Beban kerja AI memperkuat ketidakefisienan tersebut karena permintaan berubah dengan cepat dan infrastruktur GPU mahal.

Solusi itu dimulai dengan tata kelola. Setiap lingkungan harus memiliki pemilik yang ditentukan, tujuan bisnis, siklus hidup, dan profil biaya dari saat itu disediakan. Ketika organisasi menggabungkan penyediaan yang dipandu oleh kebijakan dengan pembongkaran otomatis dan visibilitas terus-menerus ke utilitas, pengeluaran infrastruktur menjadi lebih mudah diprediksi dan dibenarkan.

Menghadap ke depan, apa yang akan memisahkan organisasi yang sukses mengoperasionalkan AI dalam skala besar dari mereka yang bergelut, dan apa tren infrastruktur yang harus dipantau oleh pemimpin teknologi sekarang yang masih terbang di bawah radar?

Organisasi yang sukses akan memperlakukan infrastruktur AI sebagai kemampuan operasional daripada sekumpulan teknologi. Model akan terus diperbaiki, dan perangkat keras akan terus menjadi lebih kuat. Mengoperasikan lingkungan tersebut secara konsisten di seluruh tim dan platform akan tetap menjadi tantangan yang lebih sulit.

Satu tren yang layak mendapat perhatian lebih adalah pergeseran ke arah kecerdasan infrastruktur. Platform infrastruktur mulai memahami konteks apa yang mereka kelola, siapa yang memiliki lingkungan, apa beban kerja yang didukung, berapa biayanya, apakah itu sesuai dengan kebijakan, dan kapan itu harus dioptimalkan atau dipensiunkan. Konteks operasional itu akan menjadi semakin berharga saat perusahaan mengirimkan lebih banyak agen AI dan infrastruktur yang lebih heterogen.

Saya juga percaya bahwa tata kelola akan menjadi keunggulan kompetitif. Organisasi yang dapat menyediakan infrastruktur dengan cepat sambil mempertahankan visibilitas, penegakan kebijakan, kontrol biaya, dan auditabilitas akan memindahkan proyek AI dari pilot ke produksi jauh lebih cepat daripada mereka yang masih bergantung pada model operasional yang terfragmentasi.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Quali.