Sobhan Daliry, CPO & AI Strategy Leader di Pipefy – Seri Wawancara

Sobhan Daliry, CPO & AI Strategy Leader di Pipefy, adalah eksekutif produk dan teknologi yang berpengalaman yang telah memimpin strategi AI perusahaan sejak 2023, membantu mengubah alur kerja bisnis tradisional menjadi proses yang semakin cerdas dan otonom. Sepanjang kariernya, Daliry telah menggabungkan strategi produk, transformasi organisasi, dan kepemimpinan teknologi di berbagai startup dan perusahaan mapan. Sebelum bergabung dengan Pipefy, ia mendirikan dan menjabat sebagai CEO Polen.me serta menghabiskan lebih dari lima tahun sebagai CEO/CPO NZN, di mana ia memimpin pemulihan perusahaan dan strategi produk. Peran sebelumnya meliputi Direktur Manajemen Produk di PSafe, Manajer Produk di Peixe Urbano, serta posisi yang mencakup layanan digital, telekomunikasi, konsultasi, dan pengembangan bisnis di Oi/Telemar, Claro, AIRCOM International, dan Planeta Tecnologia.

Pipefy adalah platform manajemen proses dan AI global yang dirancang untuk membantu organisasi mengotomatisasi dan mengorkestrasi alur kerja bisnis. Didirikan pada 2015, perusahaan ini telah berkembang dari platform otomasi proses tanpa kode menjadi lingkungan orkestrasi berfokus AI yang menyatukan Agen AI, alur kerja, formulir, portal, aplikasi, data, analitik, pesan, dan integrasi. Platformnya memungkinkan tim untuk membuat dan mengelola Agen AI menggunakan bahasa alami dan alat tanpa kode sambil mempertahankan tata kelola perusahaan, keamanan, dan visibilitas. Kapabilitas AI Pipefy mencakup agen yang dapat menafsirkan dokumen, mengeksekusi tugas alur kerja, mendukung pengambilan keputusan, berinteraksi dengan sistem eksternal, dan mengorkestrasi proses di bidang seperti keuangan, sumber daya manusia, pengadaan, operasi pelanggan, dan kepatuhan.

Karier Anda telah membawa Anda dari rekayasa telekomunikasi di perusahaan seperti Claro dan Oi ke kepemimpinan produk di Peixe Urbano dan PSafe, menjabat sebagai CEO/CPO di NZN, mendirikan Polen.me, dan kini memimpin strategi produk serta AI di Pipefy. Bagaimana perkembangan tersebut membentuk cara Anda berpikir tentang membangun produk AI yang menyelesaikan masalah operasional nyata bukan sekadar menampilkan teknologi baru?

Telekomunikasi mengajarkan saya bahwa infrastruktur harus berfungsi setiap saat, pada skala besar, tanpa ruang untuk “it mostly works.” Sebuah panggilan yang terputus bukanlah kegagalan demo, melainkan pelanggan yang pergi. Mentalitas itu — keandalan di atas kebaruan — tidak pernah meninggalkan saya. Di Peixe Urbano dan PSafe saya belajar pelajaran sebaliknya: seberapa cepat produk konsumen hidup atau mati tergantung pada apakah mereka menyelesaikan masalah nyata yang dirasakan hari ini, bukan masalah teoritis. Menjalankan NZN sebagai CEO/CPO memaksa saya memegang kedua kebenaran sekaligus — Anda tidak dapat mengeksekusi lebih baik dari sebuah tesis yang buruk, dan Anda tidak dapat mengubah tesis yang buruk dengan eksekusi yang baik. Mendirikan Polen.me mengajarkan saya pelajaran paling mahal: modal dan waktu terbatas, sehingga setiap fitur yang Anda bangun adalah fitur yang tidak Anda bangun, dan biaya mengejar demo mengesankan alih-alih alur kerja nyata muncul berbulan-bulan kemudian, bukan di atas panggung. Pada saat saya sampai di Pipefy, pertanyaan yang saya ajukan tentang setiap fitur AI adalah pertanyaan yang sama yang saya ajukan tentang menara sel: apakah ini dapat bertahan di produksi, di bawah beban nyata, ketika tidak ada yang mengawasinya? Jika sebuah agen AI hanya berfungsi di lingkungan demo yang dikurasi, itu bukan produk — itu hanyalah trailer untuk produk.

Anda telah memimpin perumusan dan pelaksanaan strategi AI Pipefy sejak 2023. Asumsi apa tentang AI perusahaan yang Anda miliki pada awalnya yang paling berubah seiring kematangan AI generatif dan agen AI?

Asumsi terbesar yang harus saya buang adalah bahwa model akan menjadi kendala. Pada 2023, semua orang — termasuk saya — mengoptimalkan “LLM mana yang paling pintar.” Apa yang ternyata menjadi kendala sebenarnya adalah konteks: apakah agen mengetahui apa sebenarnya prosesnya, apa batasannya, seperti apa “selesai” untuk versi spesifik pelanggan dalam akun payable. Kualitas model terus meningkat pada kurva yang semua orang lihat akan datang; konteks proses tidak meningkat dengan sendirinya, karena tidak ada yang menstrukturkannya. Asumsi kedua yang berubah adalah tentang otonomi. Saya menganggap pasar menginginkan agen yang beraksi sepenuhnya independen secepat mungkin. Apa yang sebenarnya diinginkan perusahaan — dan masih diinginkan — adalah otonomi terbatas: agen yang membuat keputusan nyata di dalam aturan yang tidak dapat mereka langgar, dengan jejak yang membuktikannya setelahnya. Otonomi penuh tanpa tata kelola bukan ambisi, melainkan risiko dengan antarmuka yang lebih baik. Pasar matang lebih cepat pada persyaratan kepercayaan daripada pada persyaratan kemampuan mentah, dan pengurutan kembali ini adalah hal terbesar yang saya salah pahami pada awalnya.

Pipefy membedakan antara otomasi AI yang relatif sederhana dan agen AI yang dapat menalar melalui situasi ambigu, merencanakan beberapa langkah, dan mengeksekusi tindakan di seluruh alur kerja. Bagaimana perusahaan harus menentukan kapan sebuah tugas memang memerlukan agen AI dibandingkan ketika otomasi deterministik tetap menjadi solusi yang lebih baik?

Tes yang saya gunakan sederhana: jika Anda dapat menulis aturan, tulislah aturan itu. Otomasi deterministik masih menjadi jawaban yang tepat untuk apa pun yang pohon keputusannya sudah diketahui sebelumnya dan tidak berubah — arahkan faktur ini ke pemberi persetujuan ini jika nilainya di bawah jumlah ini. Itu bukan pekerjaan untuk agen, dan berpura-pura sebaliknya hanya menambah latensi dan ketidakpastian pada sesuatu yang sudah terpecahkan. Sebuah agen memperoleh tempatnya pada saat situasi memiliki ambiguitas yang tidak dapat diselesaikan oleh aturan tetap — faktur tidak cocok dengan PO secara tepat, ada bidang yang hilang, permintaan pelanggan tidak masuk ke dalam kategori yang ada. Di sinilah penalaran memiliki nilai nyata: memutuskan apa yang harus dilakukan selanjutnya ketika “selanjutnya” belum dituliskan. Kesalahan yang saya lihat perusahaan buat terus-menerus adalah membangun agen untuk 80% kasus yang sudah bersifat deterministik, karena terlihat lebih menarik, dan meninggalkan 20% yang ambigu — bagian yang sebenarnya sulit — untuk manusia mengurai secara manual. Balikkan rasio itu dan Anda telah membangun sesuatu yang nyata.

Ada pergeseran yang semakin besar dari copilot mandiri menuju “orchestrasi agenik,” di mana AI dapat mengoordinasikan proses yang melintasi banyak sistem. Apa yang membedakan orchestrasi agenik yang sesungguhnya dari sekadar menambahkan model bahasa besar ke platform otomasi yang ada?

Menyisipkan node LLM ke dalam alur otomasi yang ada memberi Anda langkah tunggal yang lebih cerdas. Orchestrasi yang sesungguhnya berarti AI memiliki pandangan yang persisten dan terstruktur terhadap seluruh proses — bukan hanya tugas ini, tetapi di mana posisinya dalam urutan, apa yang sudah terjadi di hulu, apa yang harus benar di hilir agar dianggap selesai. Perbedaannya terletak pada apakah kecerdasan memiliki memori proses atau hanya memori prompt. Sebuah copilot menjawab pertanyaan yang Anda ajukan kepadanya. Orchestrasi mengoordinasikan tindakan di antara sistem yang tidak secara native berkomunikasi satu sama lain — ERP Anda, CRM Anda, API mitra — sambil mewarisi aturan, izin, dan jejak audit yang sama yang sudah dijalankan oleh sisa proses. Jika Anda harus membangun lapisan tata kelola terpisah di sekitar fitur AI Anda karena platform otomasi di bawahnya tidak memilikinya, Anda tidak memiliki orchestrasi agenik — Anda memiliki chatbot dengan akses API, dan itu bukan profil risiko yang sama sama sekali.

Agent AI tanpa kode berpotensi memungkinkan tim bisnis mengotomatisasi proses yang semakin kompleks tanpa menunggu sumber daya teknik. Bagaimana Anda mendemokratisasikan kemampuan itu tanpa menciptakan generasi baru AI bayangan, agen yang dirancang buruk, atau risiko keamanan?

Anda tidak akan mendapatkan demokratisasi yang aman dengan meminta pengguna bisnis lebih berhati-hati — Anda mendapatkannya dengan

menjadikan pembatas sebagai bagian dari jalan, bukan jalur terpisah yang harus dipilih orang untuk mengemudi. Setiap agen yang dibangun pengguna bisnis mewarisi akses berbasis peran yang sama, jejak audit yang sama, dan aturan bisnis yang sama yang sudah mengatur proses tempat ia dibangun — ini bukan konfigurasi opsional, melainkan struktural. Itulah jawaban sebenarnya untuk AI bayangan: bukan masalah kebijakan, melainkan masalah arsitektur. AI bayangan terjadi ketika alat yang disetujui lebih sulit digunakan daripada yang tidak disetujui, sehingga orang membangun agen mereka di akun ChatGPT pribadi atau alat otomasi acak dengan visibilitas nol bagi TI. Jika pengalaman tanpa kode benar‑benar cepat dan tata kelola tidak terlihat karena otomatis, tidak ada alasan bagi tim bisnis untuk mengabaikannya. Begitu Anda menjadikan tata kelola langkah manual yang harus diingat seseorang, Anda sudah kalah.

Seiring agen AI memperoleh kemampuan untuk membuat keputusan dan mengeksekusi tindakan, bukan sekadar merekomendasikannya, bagaimana organisasi harus memutuskan di mana otonomi penuh tepat dan di mana manusia harus tetap terlibat?

Poros yang saya gunakan bukan “seberapa pintar agen,” melainkan kebalikan dan radius ledakan. Jika keputusan yang salah murah untuk dideteksi dan murah untuk dibatalkan — routing, kategorisasi, penyusunan — biarkan agen bertindak dan tinjau secara agregat. Jika keputusan yang salah mahal, sulit dibalik, atau langsung menyentuh uang, kepatuhan, atau hubungan pelanggan, libatkan manusia pada langkah spesifik itu, bahkan jika agen telah membuat seribu keputusan terakhir dengan benar. Kesalahannya adalah memperlakukan otonomi sebagai satu kenop yang Anda naikkan untuk seluruh alur kerja. Proses nyata adalah rangkaian langkah dengan profil risiko yang sangat berbeda, dan desain yang tepat menempatkan manusia tepat pada langkah di mana kesalahan mahal — tidak di mana-mana dan tidak di mana pun. Itulah juga mengapa human-in-the-loop, bila dilakukan dengan benar, bukan beban pada kecepatan — melainkan cara Anda membangun kepercayaan untuk akhirnya menghilangkannya dari langkah berisiko rendah, karena Anda memiliki bukti yang membuktikan keputusan mana yang secara konsisten tepat oleh agen.

Pipefy menekankan tata kelola melalui mekanisme seperti jejak audit, kontrol akses berbasis peran, aturan bisnis, dan keterlacakan dalam alur kerja itu sendiri. Apakah menyematkan tata kelola langsung ke dalam lapisan orchestrasi menjadi penting saat perusahaan memindahkan agen AI dari percobaan ke produksi?

Bukan menjadi hal yang baru menjadi penting — itu sudah menjadi penting, dan perusahaan yang menyadarinya dengan cara yang sulit adalah mereka yang pertama kali menempatkan agen ke produksi dan kini membangun jejak audit setelah fakta. Itu terbalik, dan mahal untuk memperbaikinya secara retroaktif. Jika jejak audit, kontrol akses berbasis peran, dan kemampuan pelacakan tidak menjadi bawaan lapisan orkestrasi itu sendiri, setiap agen baru yang Anda terapkan menjadi tempat baru dimana tata kelola dapat gagal secara diam‑diam — dan Anda tidak akan menyadarinya sampai auditor, regulator, atau insiden memaksa pertanyaan itu. Menyematkan tata kelola dalam lapisan orkestrasi berarti setiap tindakan yang diambil agen secara otomatis mewarisi aturan yang sama dan meninggalkan bukti yang sama seperti tindakan manusia, tanpa siapa pun harus mengingat untuk mengkonfigurasinya secara terpisah. Perusahaan yang beralih dari percobaan AI ke AI dalam produksi menemukan bahwa kriteria keberhasilan pilot dan kriteria keberhasilan produksi berbeda: pilot harus berfungsi, produksi harus dapat dipertahankan. Tata kelola adalah perbedaan antara dua hal tersebut.

Banyak perusahaan dapat menunjukkan pilot AI yang mengesankan tetapi kesulitan mengubahnya menjadi nilai bisnis yang dapat diukur. Metrik apa yang harus menjadi fokus para pemimpin ketika menentukan apakah inisiatif otomatisasi AI benar‑benar memberikan ROI, dan apa alasan paling umum mengapa pilot yang menjanjikan gagal berskala?

Saya tidak mempercayai percakapan ROI AI apa pun yang dimulai dengan “jam yang dihemat,” karena jam yang dihemat oleh siapa, diverifikasi bagaimana? Metrik yang benar‑benar bertahan di bawah pengawasan CFO adalah hal‑hal yang dapat dikonfirmasi secara independen oleh auditor: waktu siklus pada proses tertentu, sebelum dan sesudah; tingkat kesalahan atau pengerjaan ulang; persentase alur kerja yang kini selesai tanpa sentuhan manusia; dan cakupan jejak audit — dapatkah Anda menunjukkan, untuk setiap keputusan agen, mengapa keputusan itu diambil. Jika Anda tidak dapat menghasilkan jejak itu, Anda tidak memiliki angka ROI, melainkan sebuah anekdot. Pilot hampir selalu gagal berskala karena alasan yang sama: mereka dibangun untuk membuktikan model berfungsi, bukan untuk membuktikan proses berfungsi secara ujung‑ke‑ujung, dalam produksi, terintegrasi dengan sistem‑sistem yang sudah menjadi andalan perusahaan. Pilot yang berada di sandbox, terputus dari sistem catatan nyata, akan selalu tampak lebih baik daripada kinerjanya setelah dihubungkan ke semua hal lain yang sudah berjalan. Skala adalah masalah integrasi sistem yang memakai kostum AI.

Anda juga memimpin inisiatif perubahan organisasi di Pipefy sambil memperkenalkan kemampuan AI baru. Dari pengalaman Anda, seberapa besar adopsi AI perusahaan yang berhasil sebenarnya merupakan tantangan teknologi dibandingkan tantangan proses, budaya, dan manajemen perubahan?

Jika saya jujur, adopsi AI perusahaan yang berhasil adalah 20% teknologi dan 80% segala hal lainnya. Teknologi sebagian besar sudah berfungsi sekarang — itu bukan hal yang membuat saya kehilangan tidur. Apa yang sebenarnya menentukan apakah inisiatif AI bertahan adalah apakah orang‑orang yang pekerjaannya berubah mempercayai sistem cukup untuk melepaskan pemeriksaan manual yang mereka lakukan selama sepuluh tahun, dan apakah kepemimpinan bersedia merancang ulang proses alih‑alih hanya menempelkan AI di atas yang lama. Kami mengalami hal ini secara internal dengan membangun alat rekayasa kami sendiri — teknologi untuk mengotomatisasi bagian dari cara kami membangun perangkat lunak sudah ada jauh sebelum tim benar‑benar mempercayainya cukup untuk berhenti memeriksa semuanya secara manual. Kunci keberhasilan bukan model yang lebih baik, melainkan bukti yang terlihat, diulang cukup kali, bahwa penilaian sistem cocok dengan penilaian mereka. Manajemen perubahan untuk AI bukanlah latihan komunikasi, melainkan latihan akumulasi bukti — Anda memperoleh kepercayaan dalam batch kecil yang dapat diverifikasi, bukan menyatakannya dalam rapat umum.

Ke depan, apakah Anda memperkirakan perangkat lunak alur kerja dan proses bisnis tradisional akan berkembang menjadi lapisan orkestrasi di mana manusia, agen AI, dan sistem perusahaan berkolaborasi secara terus‑menerus? Jika ya, apa yang akan berubah secara fundamental tentang cara perusahaan merancang dan mengelola operasi mereka?

Ya, dan saya rasa pergeseran ini lebih besar daripada yang diperkirakan kebanyakan orang. Perangkat lunak alur kerja dulunya menjadi tempat Anda mendokumentasikan bagaimana pekerjaan seharusnya dilakukan. Sekarang menjadi tempat pekerjaan sebenarnya terjadi — runtime langsung di mana manusia, agen, dan sistem perusahaan semuanya beraksi dalam proses yang sama yang diatur pada saat yang bersamaan, bukan manusia yang menggunakan perangkat lunak sebagai pencatat pasif setelah fakta. Apa yang berubah secara fundamental adalah di mana “sistem catatan” sebenarnya berada. Catatan dulu adalah basis data yang diperbarui setelah sesuatu sudah terjadi di luarnya. Dalam lapisan orkestrasi, catatan dan eksekusi adalah hal yang sama — proses itu sendiri menjadi antarmuka, dapat diakses tidak hanya melalui layar tetapi melalui API, server MCP, CLI, sehingga setiap agen, baik internal maupun milik mitra, dapat beraksi di dalamnya di bawah aturan yang sama seperti manusia. Perusahaan yang memperlakukan pergeseran ini sebagai “menambahkan AI ke alat yang ada” akan terus menemui batas yang saya sebutkan sebelumnya. Mereka yang memperlakukan lapisan proses mereka sebagai produk sebenarnya — hal yang layak diinvestasikan untuk disusun dengan tepat — adalah yang akan menggandakan keunggulan yang tidak dapat ditiru hanya dengan membeli model AI yang sama.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut dapat mengunjungi Pipefy.