Ali Sarrafi, CEO dan Pendiri Kovant – Seri Wawancara

Ali Sarrafi, CEO dan Pendiri Kovant, adalah eksekutif teknologi dan AI yang berpengalaman dan berbasis di Stockholm dengan catatan kinerja membangun dan mengembangkan perusahaan AI dengan pertumbuhan tinggi. Sejak mendirikan Kovant pada akhir 2024, ia telah menggunakan pengalaman mendalam dalam strategi AI perusahaan, eksekusi go-to-market, dan penskalaan operasional. Sebelumnya, ia menjabat sebagai Wakil Presiden Strategi di Silo AI setelah akuisisi oleh AMD, di mana ia bertanggung jawab untuk membentuk strategi AI perusahaan dan mengarahkan adopsi besar-besaran. Pada awal karirnya, ia mendirikan Combient Mix, memimpin perusahaan tersebut melalui pertumbuhan cepat dan akuisisi yang sukses oleh Silo AI, dan sejak itu memegang peran penasihat dan dewan di bidang pendidikan dan startup AI, mencerminkan fokus konsisten pada menerjemahkan AI canggih menjadi dampak bisnis dunia nyata.

Kovant adalah perusahaan AI perusahaan yang fokus pada memungkinkan organisasi untuk berpindah dari penggunaan AI eksperimental ke proses bisnis yang sepenuhnya operasional dan otonom. Perusahaan ini mengembangkan platform berbasis agen yang dirancang untuk mengatur tim agen AI di seluruh domain operasional yang kompleks seperti pengadaan, rantai pasokan, kepatuhan, dan operasi pelanggan. Dengan menekankan pada penerapan yang aman, kelas perusahaan, dan waktu-to-value yang cepat, Kovant memposisikan diri sebagai jembatan antara ambisi strategis AI dan eksekusi harian, membantu organisasi besar untuk menyematkan AI langsung ke dalam alur kerja inti daripada memperlakukannya sebagai alat atau proyek pilot yang berdiri sendiri.

Anda telah memimpin inisiatif AI besar di Spotify, mengembangkan dan keluar dari Combient Mix, dan kemudian membentuk strategi AI perusahaan di Silo AI sebelum mendirikan Kovant. Apa celah atau frustrasi spesifik yang Anda temukan dalam peran tersebut yang membuat Anda yakin bahwa saatnya tepat untuk membangun platform perusahaan otonom, dan bagaimana sejarah itu membentuk filosofi desain inti Kovant?

Di seluruh peran sebelumnya, beberapa celah konsisten terus muncul. Pertama, sebagian besar alat AI “vertikal” secara efektif terjebak dalam satu tumpukan perangkat lunak: mereka melakukan satu hal sedikit lebih baik di dalam batas tersebut, tetapi berjuang ketika alur kerja perlu melintasi beberapa sistem. Pada saat yang sama, data perusahaan tersebar di banyak alat, dan banyak solusi otomatisasi hanya tidak dapat menjangkaunya. Tambahkan tahun-tahun integrasi titik dan Anda mendapatkan arsitektur spageti klasik: kompleksitas meningkat, perubahan menjadi lebih lambat, dan tim akhirnya mengautomasi langkah individu daripada mereimaginasikan alur kerja dari ujung ke ujung. Hasilnya adalah ROI sering tiba lebih lambat – dan lebih kecil – dari yang diharapkan organisasi.

Kovant dirancang sebagai respons terhadap kenyataan tersebut. Filosofi inti kami adalah bahwa agen harus berperilaku lebih seperti karyawan: mereka bekerja di seluruh alat, mereka “dipekerjakan” untuk melakukan pekerjaan, bukan untuk mengautomasi satu urutan yang di-skripkan. Itulah mengapa integrasi dan orkestrasi dibangun, dan mengapa kami menganggap data perusahaan sering kali kacau dan tidak terstruktur – itu memerlukan pendekatan yang lebih manusiawi untuk menangani pengecualian dan ketidakjelasan.

Kami menggunakan agen dasar untuk mencapai kecepatan dan skala, sambil menjaga kedaulatan data di pusat: perusahaan dapat mengakses dan menggunakan data mereka sendiri secara horizontal tanpa meninggalkan premis mereka.

Kovant memposisikan diri sebagai platform perusahaan otonom yang mampu menjalankan operasi dan departemen dengan agen AI. Bagaimana Anda mendefinisikan “otonom” dalam konteks perusahaan, dan bagaimana ini berbeda dari alat dan agen otomatisasi yang perusahaan sudah bereksperimen dengan saat ini?

Dalam konteks perusahaan, ketika kami mengatakan “otonom” kami tidak berarti “tanpa pengawasan”. Kami berarti agen AI dapat mengambil tindakan nyata dari ujung ke ujung operasi dengan tujuan dan pengawasan yang jelas, dan mereka akan mengeskalasi ke manusia ketika pengawasan diperlukan.

Apa yang membuat Kovant berbeda adalah agen dasar kami. Daripada mengautomasi satu proses tetap atau mengikuti urutan yang telah dibangun, agen Kovant dapat bekerja sebagai tim (atau kawanan) pada operasi menggunakan hanya instruksi dan gambaran operasi yang kami sebut blueprint. Mereka tidak dirancang untuk satu tugas sempit; mereka berkolaborasi untuk memecahkan alur kerja yang kompleks, beradaptasi ketika kondisi berubah, dan menyerahkan kepada orang ketika situasi memerlukan pengawasan.

Contohnya, tim agen manajemen inventori dapat melakukan semua pekerjaan berikut tanpa membangunnya dari awal, termasuk: berkomunikasi dengan pemasok melalui email, memantau tingkat inventori dan sinyal kehabisan stok, melacak pengiriman dan pesanan pembelian, memperbarui status di seluruh sistem, membuat tiket ketidaksesuaian untuk perencana inventori untuk disetujui, mendistribusikan kembali inventori antara gudang, dan mengkonsolidasikan laporan inventori.

Jadi perubahan adalah bukan “obrolan plus alat” atau otomatisasi yang rapuh yang patah pada skala, perusahaan berpindah dari membangun agen ke menjalankannya pada skala.

Meskipun minat besar dalam AI agen, banyak organisasi masih terjebak dalam mode pilot. Dari apa yang Anda lihat dalam penerapan nyata, apa alasan utama perusahaan mengalami kesulitan untuk berpindah dari eksperimen ke produksi yang diperluas?

Apa yang kami lihat adalah bahwa sebagian besar organisasi tidak terjebak dalam mode pilot karena ide itu salah; mereka terjebak karena lingkungan yang tidak mendukung penskalaan.

Penghalang pertama adalah lanskap teknologi perusahaan yang terfragmentasi. Alur kerja melintasi banyak sistem, data hidup di banyak tempat, dan menjahit semua menjadi satu secara andal itu sulit. Dan AI agen sering diterapkan sebagai add-on ke alat yang ada, bukan sebagai cara untuk mereimaginasikan bagaimana alur kerja harus berjalan dari ujung ke ujung.

Ada juga masalah arsitektur dan data yang nyata. Banyak vendor SaaS masih mencoba mengunci data, yang menciptakan inkompatibilitas dan membatasi apa yang agen dapat lakukan di seluruh sistem. Dan banyak tim meremehkan fakta bahwa sebagian besar data perusahaan tidak terstruktur (email, dokumen, tiket, PDF, log obrolan). Jika pendekatan Anda menganggap data yang bersih dan terstruktur, waktu-ke-nilai menjadi lama, menyakitkan, dan sulit untuk direplikasi di luar pilot.

Singkatnya: fragmentasi, kunci, dan data tidak terstruktur menciptakan gesekan – dan pilot tidak pernah berubah menjadi produksi sampai kenyataan tersebut dirancang untuk.

Keandalan sering disebut sebagai penghalang terbesar untuk menerapkan agen AI di dunia nyata. Mengapa banyak sistem agen gagal ketika mereka meninggalkan lingkungan yang dikendalikan, dan bagaimana pendekatan Kovant mengurangi masalah seperti halusinasi dan perilaku yang tidak terduga?

Beberapa sistem agen terlihat bagus dalam demo, kemudian gagal di dunia nyata karena lingkungan yang kacau dan tidak terduga. Data tidak lengkap atau tidak konsisten, kasus tepi muncul terus-menerus (pengembalian, sengketa, persetujuan khusus). Alur kerja melintasi banyak alat, platform, dan integrasi yang berubah seiring waktu, dan izin bervariasi. Ketika agen AI diminta untuk menangani tugas besar dan diberi terlalu banyak konteks sekaligus, risiko halusinasi dan perilaku aneh meningkat.

Kovant mengurangi ini dengan desain. Arsitektur unik kami mempersempit ruang masalah, ruang keputusan, dan konteks yang model kerjakan untuk mengurangi halusinasi. Kami juga memecah operasi menjadi tugas yang sempit dan fokus untuk agen dan langkah individu. Itu membuat perilaku lebih dapat diprediksi, dan menambahkan jejak dan kontrol ke dalam sistem dan dapat mengelola halusinasi dengan lebih baik. Kami dapat melihat apa yang dilakukan oleh setiap agen, di mana kegagalan dimulai, dan intervensi atau eskalasi ketika diperlukan.

Halusinasi tidak menghilang secara ajaib, tetapi dengan membatasi apa yang setiap agen bertanggung jawab dan membatasi konteks yang dapat bertindak, kami dapat mengurangi frekuensi dan membatasi dampaknya. Pendekatan “tugas/konteks yang dipersempit” ini juga didukung oleh pekerjaan terbaru dari tim penelitian Nvidia, yang menemukan manfaat serupa dari membatasi keputusan agen.

Akuntabilitas adalah kekhawatiran utama ketika agen AI mulai mengambil tindakan nyata di sistem bisnis. Bagaimana log tindakan yang terperinci mengubah percakapan sekitar kepercayaan, kepatuhan, dan risiko operasional?

Dengan log tindakan yang terperinci kami dapat melihat apa yang terjadi, mengapa itu terjadi, dan apa yang terjadi selanjutnya.

Log terperinci itu mengubah agen dari bot misterius yang bekerja di mesin menjadi sistem yang dapat diinspeksi.

Di Kovant, dengan setiap penerapan agen AI, akan ada peta risiko yang organisasi dapat bertindak, kami memiliki pengawasan bawaan untuk tindakan berisiko yang berarti agen hanya dapat melakukan tindakan tersebut jika manusia meninjau dan menyetujui keputusan. Semua ini dicatat dengan cara yang sama seperti sistem catatan yang dicatat dan dapat dilacak.

Kami percaya bahwa penting untuk menggabungkan log tindakan dengan pengawasan manusia dan keterbukaan untuk meminimalkan risiko. Itu berarti Anda masih mendapatkan manfaat kecepatan dan skala dari agen yang menjalankan operasi nyata.

Ada diskusi yang tumbuh tentang apakah agen AI bahkan dapat diasuransikan karena pengambilan keputusan yang tidak transparan. Bagaimana membuat alur kerja agen yang dapat diaudit dan dapat diputar ulang membantu mengatasi masalah “black box” dan membuka pintu untuk asuransi?

Masalah “black box” adalah apa yang membuat asuransi sulit. Jika Anda tidak dapat menunjukkan dengan jelas apa yang dilakukan agen, mengapa itu dilakukan, dan apa kontrol yang ada, itu sulit bagi siapa pun, terutama perusahaan asuransi, untuk menentukan risiko.

Pendekatan kami pada dasarnya adalah perpanjangan dari pengaturan akuntabilitas dalam jawaban sebelumnya. Kami memecah ruang keputusan dan dampak tindakan menjadi potongan yang lebih kecil, sehingga model tidak membuat satu keputusan raksasa yang tidak transparan yang dapat mengayun operasi seluruhnya. Setiap langkah lebih sempit, lebih dapat diprediksi, dan lebih mudah untuk dievaluasi.

Kami kemudian menambahkan log terperinci, keterbukaan, dan pengawasan manusia. Untuk keputusan yang paling penting dan berdampak, kami menggunakan pengawasan manusia sehingga agen hanya dapat melanjutkan setelah tinjauan dan persetujuan. Itu menciptakan visibilitas yang jauh lebih besar ke dalam bagaimana alur kerja berperilaku dalam prakteknya.

Membuat alur kerja yang dapat diaudit dan dapat diputar ulang adalah potongan terakhir. Jika sesuatu salah, Anda dapat mereproduksi apa yang terjadi, menyelidiki dengan cepat, memvalidasi perbaikan, dan menunjukkan seberapa sering persetujuan manusia diperlukan dan di mana pengawasan berada. Dalam istilah asuransi, itu mengubah perilaku AI yang misterius menjadi sesuatu yang lebih dekat dengan risiko operasional standar.

Dengan inisiatif seperti Yayasan AI Agentik yang bertujuan untuk menciptakan standar bersama untuk sistem agen, apa yang Anda lihat sebagai aspek paling menjanjikan dari upaya ini, dan di mana mereka masih kurang untuk operasi perusahaan nyata?

Standarisasi pada umumnya adalah hal yang baik. Yayasan AI Agentik dapat melakukan pekerjaan yang tidak glamor tetapi penting untuk membuat sistem agen berbicara dengan bahasa yang sama, yang seharusnya membuat integrasi lebih mudah dan mengurangi kunci vendor seiring waktu.

Di mana saya berhati-hati adalah siapa yang memimpin perspektif standar. Jika sebagian besar pekerjaan dipimpin oleh pembuat model dan perusahaan skala, ada risiko bahwa “standar” akan mengoptimalkan apa yang paling mudah dibangun atau didemo, bukan apa yang organisasi besar benar-benar butuhkan untuk menjalankan agen dengan aman sehari-hari.

Untuk operasi perusahaan nyata, celahnya cenderung kurang tentang konektor dan lebih tentang kontrol: apa yang dapat diakses dan diubah oleh agen, alur persetujuan untuk tindakan berdampak tinggi, log yang dapat diaudit, dan keterbukaan sehingga tim dapat memantau perilaku, menyelidiki insiden, dan membuktikan kepatuhan. Perusahaan juga memerlukan standar praktis untuk beroperasi dalam kenyataan yang kacau: pengujian terhadap kasus tepi, menangani perubahan sistem, dan dapat mempause, mengandung, atau mengembalikan tindakan dengan aman di seluruh alat dan lingkungan data yang diatur.

Jadi itu adalah arah yang menjanjikan, tetapi dampaknya akan terbatas kecuali persyaratan perusahaan dan kontrol risiko operasional tidak dianggap sebagai pemikiran belakangan.

Kovant telah menghasilkan pendapatan yang signifikan dari perusahaan besar Nordik sambil beroperasi sebagian besar dalam mode stealth. Jenis fungsi bisnis atau alur kerja apa yang terbukti paling siap untuk agen AI otonom hari ini?

Dari apa yang kami lihat dalam penerapan nyata, alur kerja yang paling “siap” hari ini adalah yang terdiri dari pekerjaan kantor putih reaktif: memantau, mengejar, memeriksa, memperbarui sistem, menangani pengecualian, dan menjaga operasi berjalan di seluruh alat.

Dalam manufaktur dan rantai pasokan perusahaan yang lebih luas, itu muncul di seluruh:

• Pengadaan: ketersediaan bahan baku, sumber daya berkelanjutan, operasi kepatuhan, seleksi pemasok (termasuk dual/multi-sourcing), manajemen kontrak, manajemen risiko pemasok, dan manajemen tender.
• Produksi: perencanaan kapasitas, penjadwalan produksi, manajemen pemeliharaan, manajemen kualitas, manajemen bottleneck, dan pencegahan kerugian.
• Gudang: penerimaan & inspeksi, manajemen inventori, rotasi stok (FIFO/FEFO), dan penghitungan/audit siklus.
• Transportasi / logistik: seleksi moda dan operator, pembersihan bea cukai/dokumentasi, pelacakan & visibilitas, pemantauan emisi, dan kepatuhan perdagangan.
• Penjualan dan layanan: ketersediaan produk, pencegahan kehabisan stok, manajemen penjualan/pengembalian, analisis perilaku konsumen, serta area purna jual seperti perbaikan, pelacakan akhir hayat, operasi bengkel, dan kontrak layanan.

Ketika perusahaan menerapkan agen AI di seluruh operasi kritis, bagaimana Anda merekomendasikan untuk mengimbangkan otonomi dengan pengawasan manusia untuk memastikan kontrol tanpa memperlambat semuanya?

Keseimbangan itu diperintah oleh otonomi yang diperintah. Anda harus membiarkan agen bergerak cepat pada pekerjaan berisiko rendah dalam batasan yang jelas, dan mengeskalasi ke manusia ketika tindakan melintasi ambang risiko yang ditentukan.

Banyak kegagalan datang dari memberikan model terlalu banyak ruang lingkup dan terlalu banyak konteks sekaligus. Saya merekomendasikan untuk memecah operasi menjadi keputusan yang sempit dan terfokus, di mana setiap langkah memiliki izin yang jelas dan radius dampak yang terbatas. Itu mengurangi perilaku yang tidak terduga dan membuat kinerja lebih mudah untuk dipantau dan ditingkatkan.

Kemudian Anda menggabungkan tiga hal: keterbukaan, log tindakan, dan pengawasan manusia. Semua yang dilakukan agen harus dapat dilacak, sehingga Anda dapat memeriksa apa yang terjadi dan menyelidiki dengan cepat. Untuk tindakan berdampak tinggi atau berisiko, Anda menempatkan langkah persetujuan manusia dalam alur kerja, sehingga agen dapat mengusulkan dan mempersiapkan, tetapi hanya mengeksekusi setelah orang menyetujui.

Itu menjaga semuanya bergerak cepat. Jika ada yang memperlambat, itu hanya sedikit pada langkah pengawasan manusia, tetapi itu adalah bagian penting dari proses. Manusia tidak terjebak dalam mengawasi setiap klik, tetapi mereka masih mengontrol momen-momen yang penting. Hasilnya adalah kecepatan di mana itu aman, dan pengawasan di mana itu diperlukan.

Menghadap ke depan, bagaimana Anda mengharapkan peran agen AI otonom untuk berkembang di dalam perusahaan besar dalam beberapa tahun ke depan, dan apa yang akan membedakan perusahaan yang sukses dengan agen AI dari mereka yang berjuang?

Di beberapa tahun ke depan, agen AI otonom akan berpindah dari eksperimen menarik ke menjadi lapisan operasional nyata di dalam perusahaan besar. Mereka akan digunakan untuk operasi, layanan pelanggan, keuangan, dan SDM. Ketika keandalan, tata kelola, dan pengawasan meningkat, kami akan melihat perusahaan berpindah dari pilot terisolasi ke menjalankan tim agen di seluruh alur kerja ujung ke ujung.

Perubahan terbesar adalah bahwa kecepatan, kelenturan, skala, efisiensi, dan biaya akan menjadi lever kompetitif yang lebih langsung. Saya pikir “gerakan Uber” sedang datang untuk perusahaan. Mereka yang benar-benar menguasai agen AI akan dapat beroperasi pada kecepatan yang jauh lebih tinggi daripada yang tertinggal, menangkap pasar lebih cepat, dan merespons perubahan tanpa drag operasional yang biasa.

Apa yang membedakan pemenang bukan hanya menerapkan agen, tetapi menerapkan dengan baik. Otonomi yang diperintah, keterbukaan yang kuat, dan arsitektur yang mempersempit ruang keputusan akan menjadi kunci untuk itu. Perusahaan yang memperlakukan agen AI sebagai kemampuan operasional inti, dengan kontrol yang tepat, integrasi, dan kepemilikan, akan menggunakan itu untuk melakukan lebih, bukan kurang. Itu akan membebaskan tim untuk fokus pada pertumbuhan dan inovasi daripada menghabiskan hari-hari mereka tersembunyi dalam admin. Singkatnya, kecepatan dan efisiensi radikal menjadi keunggulan kompetitif yang sebenarnya pada skala perusahaan.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Kovant.