Ali Sarrafi, CEO dan Pendiri Kovant – Seri Wawancara

Ali Sarrafi, CEO dan Pendiri Kovant, adalah seorang eksekutif teknologi dan AI berpengalaman yang berbasis di Stockholm dengan rekam jejak membangun dan mengembangkan perusahaan AI yang tumbuh pesat. Sejak mendirikan Kovant pada akhir tahun 2024, ia telah memanfaatkan pengalaman mendalam dalam strategi AI perusahaan, eksekusi pemasaran, dan penskalaan operasional. Sebelumnya, ia menjabat sebagai Wakil Presiden Strategi di Silo AI setelah akuisisi oleh AMD, di mana ia bertanggung jawab untuk membentuk strategi AI perusahaan dan mendorong adopsi skala besar. Di awal karirnya, ia ikut mendirikan Combient Mix, memimpin perusahaan melalui pertumbuhan pesat dan akuisisi yang sukses oleh Silo AI, dan sejak itu memegang peran penasihat dan dewan di berbagai startup pendidikan dan AI, yang mencerminkan fokus yang konsisten pada penerjemahan AI canggih menjadi dampak bisnis di dunia nyata.

Kovant Kovant adalah perusahaan AI tingkat perusahaan yang berfokus pada pemberdayaan organisasi untuk beralih dari penggunaan AI eksperimental ke proses bisnis otonom yang sepenuhnya operasional. Perusahaan ini mengembangkan platform berbasis agen yang dirancang untuk mengatur tim agen AI di berbagai domain operasional yang kompleks seperti pengadaan, rantai pasokan, kepatuhan, dan operasi pelanggan. Dengan menekankan penerapan yang aman dan berstandar perusahaan serta waktu pencapaian nilai yang cepat, Kovant memposisikan dirinya sebagai jembatan antara ambisi strategis AI dan eksekusi sehari-hari, membantu organisasi besar untuk menanamkan AI langsung ke dalam alur kerja inti daripada memperlakukannya sebagai alat mandiri atau proyek percontohan.

Anda telah memimpin inisiatif AI besar di Spotify, mengembangkan dan menjual Combient Mix, dan kemudian membentuk strategi AI perusahaan di Silo AI sebelum mendirikan Kovant. Kesenjangan atau frustrasi spesifik apa yang Anda temui dalam peran-peran tersebut yang meyakinkan Anda bahwa saatnya tepat untuk membangun platform perusahaan otonom, dan bagaimana sejarah tersebut membentuk filosofi desain inti Kovant?

Sepanjang peran saya sebelumnya, beberapa kesenjangan yang konsisten terus muncul. Pertama, sebagian besar alat AI "vertikal" pada dasarnya terikat pada satu tumpukan perangkat lunak: mereka melakukan satu hal sedikit lebih baik di dalam batasan itu, tetapi kesulitan saat alur kerja perlu mencakup banyak sistem. Pada saat yang sama, data perusahaan tersebar di banyak alat, dan banyak solusi otomatisasi tidak dapat menjangkaunya. Tambahkan integrasi titik selama bertahun-tahun dan Anda akan mendapatkan arsitektur spaghetti klasik: kompleksitas meningkat, perubahan menjadi lebih lambat, dan tim akhirnya mengotomatiskan langkah-langkah individual daripada membayangkan kembali alur kerja dari ujung ke ujung. Hasilnya adalah ROI seringkali datang lebih lambat – dan lebih kecil – daripada yang diharapkan organisasi.

Kovant dirancang sebagai respons terhadap realitas tersebut. Filosofi inti kami adalah bahwa agen harus berperilaku lebih seperti karyawan: mereka bekerja di berbagai alat, mereka "dipekerjakan" untuk melakukan pekerjaan, bukan untuk mengotomatisasi satu rangkaian skrip. Itulah mengapa integrasi dan orkestrasi dibangun di dalamnya, dan mengapa kami berasumsi bahwa data perusahaan seringkali berantakan dan tidak terstruktur – data tersebut membutuhkan pendekatan yang lebih mirip manusia untuk menangani pengecualian dan ambiguitas.

Kami menggunakan agen dasar untuk mencapai kecepatan dan skala, sambil tetap mengutamakan kedaulatan data: perusahaan dapat mengakses dan menggunakan data mereka sendiri secara horizontal tanpa data tersebut meninggalkan lokasi mereka.

Kovant memposisikan dirinya sebagai platform perusahaan otonom yang mampu menjalankan seluruh operasi dan departemen dengan agen AI. Bagaimana Anda mendefinisikan "otonom" dalam konteks perusahaan, dan bagaimana hal ini berbeda dari alat otomatisasi dan agen yang sudah diujicoba oleh perusahaan saat ini?

Dalam konteks perusahaan, ketika kita mengatakan "otonom", kita tidak bermaksud "tanpa pengawasan". Yang kami maksud adalah agen AI dapat melakukan tindakan nyata dari ujung ke ujung di seluruh operasi dengan tujuan dan batasan yang jelas, dan mereka akan melaporkan kepada manusia ketika pengawasan diperlukan.

Yang membedakan Kovant adalah agen-agen dasar kami. Alih-alih mengotomatiskan satu proses tetap atau mengikuti urutan yang telah dibuat sebelumnya, agen Kovant dapat bekerja sebagai tim (atau kelompok) dalam suatu operasi hanya dengan menggunakan instruksi dan gambaran umum operasi yang kami sebut cetak biru. Mereka tidak dirancang untuk satu tugas sempit; mereka berkolaborasi untuk menyelesaikan alur kerja yang kompleks, beradaptasi seiring perubahan kondisi, dan menyerahkan tugas kepada manusia ketika situasi membutuhkan pengawasan.

Sebagai contoh, tim agen manajemen inventaris dapat melakukan semua pekerjaan berikut tanpa perlu membangunnya dari awal, termasuk: berkomunikasi dengan pemasok melalui email, memantau tingkat inventaris dan sinyal kekurangan stok, melacak pengiriman dan pesanan pembelian, memperbarui status di seluruh sistem, membuat tiket perbedaan untuk disetujui oleh perencana inventaris, mendistribusikan kembali inventaris antar gudang, dan mengkonsolidasikan laporan inventaris.

Jadi, pergeserannya adalah, alih-alih "chat plus tools" atau otomatisasi rapuh yang mudah rusak saat diterapkan dalam skala besar, perusahaan beralih dari membangun agen ke menjalankannya dalam skala besar.

Terlepas dari minat yang sangat besar terhadap AI berbasis agen, banyak organisasi masih terjebak dalam tahap uji coba. Berdasarkan pengamatan Anda dalam implementasi nyata, apa alasan utama perusahaan kesulitan beralih dari eksperimen ke produksi skala besar?

Yang kita lihat adalah sebagian besar organisasi tidak terjebak dalam mode uji coba bukan karena idenya salah; mereka terjebak karena lingkungan tidak mendukung perluasan skala.

Hambatan pertama adalah lanskap teknologi perusahaan yang terfragmentasi. Alur kerja mencakup banyak sistem, data berada di berbagai tempat, dan menyatukan semuanya secara andal itu sulit. Dan AI berbasis agen sering kali diterapkan sebagai tambahan pada alat yang sudah ada, bukan sebagai cara untuk memikirkan kembali bagaimana alur kerja seharusnya berjalan dari ujung ke ujung.

Ada juga masalah arsitektur dan data yang nyata. Banyak vendor SaaS masih mencoba mengunci data, yang menciptakan ketidakkompatibilitas dan membatasi apa yang sebenarnya dapat dilakukan agen di berbagai sistem. Dan banyak tim meremehkan fakta bahwa sebagian besar data perusahaan tidak terstruktur (email, dokumen, tiket, PDF, log obrolan). Jika pendekatan Anda mengasumsikan data yang bersih dan terstruktur, waktu untuk mendapatkan nilai menjadi lama, menyakitkan, dan sulit untuk direplikasi di luar uji coba.

Singkatnya: fragmentasi, keterikatan, dan data yang tidak terstruktur menciptakan hambatan – dan proyek percontohan tidak akan pernah berubah menjadi produksi sampai realitas tersebut dirancang untuk mengatasinya.

Keandalan sering disebut sebagai penghalang terbesar dalam penerapan agen AI di dunia nyata. Mengapa begitu banyak sistem agen gagal setelah meninggalkan lingkungan terkontrol, dan bagaimana pendekatan Kovant mengurangi masalah seperti halusinasi dan perilaku yang tidak dapat diprediksi?

Beberapa sistem agen tampak hebat dalam demo, tetapi kemudian gagal di dunia nyata karena lingkungannya berantakan dan tidak dapat diprediksi. Data tidak lengkap atau tidak konsisten, kasus-kasus khusus muncul terus-menerus (pengembalian dana, sengketa, persetujuan khusus). Alur kerja mencakup berbagai alat, platform, dan integrasi yang berubah seiring waktu, dan izin bervariasi. Ketika agen AI diminta untuk menangani tugas besar dan diberi terlalu banyak konteks sekaligus, risiko halusinasi dan perilaku aneh meningkat.

Kovant mengurangi hal ini melalui desainnya. Arsitektur unik kami mempersempit ruang masalah, ruang keputusan, dan konteks yang digunakan model untuk mengurangi halusinasi. Kami juga memecah operasi menjadi tugas-tugas yang sempit dan terfokus untuk setiap agen dan langkah. Hal itu membuat perilaku lebih mudah diprediksi, dan menambahkan kemampuan pelacakan dan pengendalian ke dalam sistem serta dapat mengelola halusinasi dengan lebih baik. Kita dapat melihat apa yang dilakukan setiap agen, di mana kegagalan dimulai, dan melakukan intervensi atau eskalasi jika diperlukan.

Halusinasi tidak akan hilang begitu saja, tetapi dengan membatasi tanggung jawab setiap agen dan membatasi konteks di mana ia dapat bertindak, kita dapat mengurangi frekuensinya dan membatasi dampaknya. Pendekatan "tugas/konteks yang dipersempit" ini juga didukung dalam penelitian terbaru dari tim riset Nvidia, yang menemukan manfaat serupa dari pembatasan pengambilan keputusan agen.

Akuntabilitas menjadi perhatian utama seiring dengan mulai beroperasinya agen AI dalam sistem bisnis. Bagaimana catatan tindakan yang terperinci mengubah percakapan seputar kepercayaan, kepatuhan, dan risiko operasional?

Dengan catatan kejadian yang detail, kita dapat melihat apa yang terjadi, mengapa itu terjadi, dan apa yang akan terjadi selanjutnya.

Log yang detail mengubah agen dari sekadar bot misterius yang bekerja di dalam mesin menjadi sistem yang dapat Anda periksa.

Di Kovant, dengan setiap penerapan agen AI, akan ada peta risiko yang dapat digunakan organisasi untuk bertindak. Kami memiliki mekanisme pengawasan internal untuk tindakan berisiko yang melibatkan manusia, artinya agen hanya dapat melakukan tugas-tugas tersebut jika manusia meninjau dan menyetujui keputusannya. Semua ini dicatat dengan cara yang sama seperti sistem pencatatan dan dapat dilacak.

Kami percaya bahwa penting untuk menggabungkan log aksi dengan pengawasan dan pengamatan manusia untuk meminimalkan risiko. Ini berarti Anda tetap mendapatkan manfaat kecepatan dan skala dari agen yang menjalankan operasi nyata.

Terdapat diskusi yang berkembang mengenai apakah agen AI dapat diasuransikan karena proses pengambilan keputusannya yang tidak transparan. Bagaimana membuat alur kerja agen dapat diaudit dan diputar ulang dapat membantu mengatasi masalah "kotak hitam" dan membuka pintu menuju kemungkinan diasuransikan?

Masalah "kotak hitam" inilah yang membuat penentuan premi asuransi menjadi sulit. Jika Anda tidak dapat menunjukkan dengan jelas apa yang dilakukan agen, mengapa ia melakukannya, dan kontrol apa yang diterapkan, akan sulit bagi siapa pun, terutama perusahaan asuransi, untuk menentukan harga risikonya.

Pendekatan kami pada dasarnya merupakan perluasan dari pengaturan akuntabilitas dalam jawaban sebelumnya. Kami memecah ruang lingkup keputusan dan dampak tindakan menjadi bagian-bagian yang lebih kecil, sehingga model tersebut tidak membuat satu keputusan besar dan buram yang dapat memengaruhi seluruh operasi. Setiap langkah lebih sempit, lebih mudah diprediksi, dan lebih mudah dievaluasi.

Kemudian, kami menambahkan log terperinci, kemampuan observasi, dan pengawasan manusia. Untuk keputusan yang paling penting dan berdampak, kami menggunakan pengawas manusia sehingga agen hanya dapat melanjutkan setelah ditinjau dan disetujui. Hal ini menciptakan visibilitas yang jauh lebih besar tentang bagaimana alur kerja berjalan dalam praktiknya.

Membuat alur kerja dapat diaudit dan diputar ulang adalah bagian terakhir. Jika terjadi kesalahan, Anda dapat mereproduksi apa yang terjadi, menyelidikinya dengan cepat, memvalidasi perbaikan, dan menunjukkan seberapa sering persetujuan manusia diperlukan dan di mana letak pengamanannya. Dalam istilah penjaminan, itu berarti... perilaku AI yang misterius menjadi sesuatu yang lebih mendekati risiko operasional standar.

Dengan inisiatif seperti Agentic AI Foundation yang bertujuan untuk menciptakan standar bersama untuk sistem agen, apa yang Anda anggap sebagai aspek paling menjanjikan dari upaya ini, dan di mana upaya ini masih kurang untuk operasi perusahaan nyata?

Standardisasi pada umumnya merupakan hal yang baik. AAIF dapat melakukan pekerjaan yang kurang menarik namun penting, yaitu membuat sistem agen menggunakan bahasa yang sama, yang seharusnya mempermudah integrasi dan mengurangi ketergantungan pada vendor tertentu seiring waktu.

Yang membuat saya waspada adalah perspektif siapa yang membentuk standar tersebut. Jika sebagian besar pekerjaan dipimpin oleh pencipta model dan perusahaan teknologi yang sedang berkembang, ada risiko bahwa "standar" tersebut mengoptimalkan apa yang paling mudah dibangun atau didemonstrasikan, daripada apa yang sebenarnya dibutuhkan organisasi besar untuk menjalankan agen dengan aman setiap hari.

Untuk operasional perusahaan yang sebenarnya, kesenjangan cenderung bukan hanya tentang konektor, tetapi lebih tentang kontrol: apa yang dapat diakses dan diubah oleh agen, alur kerja persetujuan untuk tindakan berdampak tinggi, log yang dapat diaudit, dan kemampuan observasi sehingga tim dapat memantau perilaku, menyelidiki insiden, dan membuktikan kepatuhan. Perusahaan juga membutuhkan standar praktis untuk beroperasi dalam realitas yang kompleks: pengujian terhadap kasus-kasus ekstrem, penanganan sistem yang berubah, dan kemampuan untuk menghentikan sementara, menahan, atau membatalkan tindakan dengan aman di seluruh alat lama dan lingkungan data yang diatur.

Jadi, ini adalah arah yang menjanjikan, tetapi dampaknya akan terbatas kecuali jika persyaratan perusahaan dan pengendalian risiko operasional tidak diperlakukan sebagai hal yang diabaikan.

Kovant telah menghasilkan pendapatan signifikan dari perusahaan-perusahaan besar Nordik meskipun sebagian besar beroperasi secara diam-diam. Jenis fungsi bisnis atau alur kerja apa yang terbukti paling siap untuk agen AI otonom saat ini?

Berdasarkan pengamatan kami dalam implementasi nyata, alur kerja yang paling "siap" saat ini adalah alur kerja yang terdiri dari pekerjaan reaktif tingkat profesional: pemantauan, pengejaran, pengecekan, pembaruan sistem, penanganan pengecualian, dan menjaga agar operasional tetap berjalan di berbagai alat.

Dalam manufaktur dan rantai pasokan perusahaan yang lebih luas, hal itu terlihat di berbagai aspek, antara lain:

• Pengadaan/Pembelian: ketersediaan bahan baku, pengadaan berkelanjutan, operasi kepatuhan, pemilihan pemasok (termasuk pengadaan ganda/multi-sumber), manajemen kontrak, manajemen risiko pemasok, dan manajemen tender/penawaran.
• Stabil: perencanaan kapasitas, penjadwalan produksi, manajemen pemeliharaan, manajemen kualitas, manajemen hambatan produksi, dan pencegahan kerugian.
• Pergudangan: penerimaan & inspeksi, manajemen inventaris, rotasi stok (FIFO/FEFO), dan penghitungan/audit siklus.
• Transportasi / logistik: pemilihan moda dan pengangkut, bea cukai/dokumentasi, pelacakan & visibilitas, pemantauan emisi, dan kepatuhan perdagangan.
• Penjualan dan layanan: ketersediaan produk, pencegahan kehabisan stok, manajemen penjualan/pengembalian, analisis perilaku konsumen, serta area purna jual seperti perbaikan, pelacakan akhir masa pakai, operasional bengkel, dan kontrak layanan.

Ketika perusahaan menerapkan agen AI di seluruh operasi penting, bagaimana Anda merekomendasikan untuk menyeimbangkan otonomi dengan pengawasan manusia guna memastikan kendali tanpa memperlambat semuanya?

Keseimbangan diatur oleh otonomi. Anda harus membiarkan agen bergerak cepat pada pekerjaan berisiko rendah dalam batasan yang jelas, dan meningkatkan tanggung jawab kepada manusia ketika tindakan tersebut melampaui ambang risiko yang telah ditentukan.

Banyak kegagalan berasal dari memberikan terlalu banyak cakupan dan konteks pada model sekaligus. Saya merekomendasikan untuk memecah operasi menjadi keputusan yang lebih kecil dan terdefinisi dengan baik, di mana setiap langkah memiliki izin yang jelas dan radius dampak yang terbatas. Hal itu mengurangi perilaku yang tidak terduga dan membuat kinerja lebih mudah dipantau dan ditingkatkan.

Kemudian Anda menggabungkan tiga hal: kemampuan observasi, log tindakan, dan pengawasan manusia. Semua yang dilakukan agen harus dapat dilacak, sehingga Anda dapat memeriksa apa yang terjadi dan menyelidiki dengan cepat. Untuk tindakan yang berdampak tinggi atau berisiko, Anda menambahkan langkah persetujuan manusia dalam alur kerja, sehingga agen dapat mengajukan dan mempersiapkan, tetapi hanya akan dieksekusi setelah disetujui oleh seseorang.

Hal itu membuat proses berjalan cepat. Jika pun ada, proses hanya sedikit melambat pada tahap pengawasan manusia, tetapi itu merupakan bagian penting dari proses tersebut. Manusia tidak harus mengawasi setiap klik, tetapi mereka tetap memegang kendali pada momen-momen penting. Hasilnya adalah kecepatan di tempat yang aman, dan pengawasan di tempat yang diperlukan.

Ke depan, bagaimana Anda memperkirakan peran agen AI otonom akan berkembang di dalam organisasi besar selama beberapa tahun mendatang, dan apa yang akan membedakan perusahaan yang berhasil dengan AI berbasis agen dari perusahaan yang kesulitan?

Dalam beberapa tahun ke depan, agen AI otonom akan beralih dari eksperimen yang menarik menjadi lapisan operasional nyata di dalam organisasi besar. Mereka akan digunakan untuk operasional, layanan pelanggan, keuangan, dan SDM. Seiring dengan peningkatan keandalan, tata kelola, dan pengawasan, kita akan melihat perusahaan beralih dari proyek percontohan yang terisolasi ke menjalankan tim agen di seluruh alur kerja ujung ke ujung.

Perubahan terbesar adalah kecepatan, kelincahan, skala, efisiensi, dan biaya akan menjadi pengungkit kompetitif yang jauh lebih langsung. Saya pikir "gerakan Uber" akan datang untuk perusahaan. Perusahaan yang benar-benar menguasai AI agenik akan mampu beroperasi dengan kecepatan yang jauh lebih tinggi daripada yang tertinggal, merebut pasar lebih cepat, dan merespons perubahan tanpa hambatan operasional yang biasa terjadi.

Yang membedakan para pemenang bukanlah sekadar menerapkan agen, tetapi menerapkannya dengan baik. Otonomi yang terkendali, kemampuan observasi dan pencatatan tindakan yang kuat, serta arsitektur yang mempersempit ruang lingkup pengambilan keputusan akan menjadi kunci untuk itu. Perusahaan yang memperlakukan AI berbasis agen sebagai kemampuan operasional inti, dengan kontrol, integrasi, dan kepemilikan yang tepat, akan menggunakannya untuk melakukan lebih banyak hal, bukan lebih sedikit. Hal itu akan membebaskan tim untuk fokus pada pertumbuhan dan inovasi daripada menghabiskan hari-hari mereka terkubur dalam pekerjaan administrasi. Singkatnya, kecepatan dan efisiensi yang radikal menjadi keunggulan kompetitif sejati pada skala perusahaan.

Terima kasih atas wawancaranya yang luar biasa, pembaca yang ingin belajar lebih banyak harus berkunjung Kovant.