Deepak Kinger, Direktur Strategi dan Salah Satu Pendiri EvoluteIQ – Seri Wawancara

Deepak Kinger, Direktur Strategi dan salah satu pendiri EvoluteIQ, adalah pemimpin teknologi dan bisnis berpengalaman dengan pengalaman lebih dari dua dekade di bidang transformasi perusahaan, layanan keuangan, otomasi, dan kecerdasan buatan. Di EvoluteIQ, ia turut merumuskan strategi perusahaan secara keseluruhan sekaligus memimpin aliansi teknologi utama, kemitraan solusi, pemasaran, dan hubungan dengan para analis. Sebelum ikut mendirikan EvoluteIQ pada 2019, Kinger menduduki posisi kepemimpinan senior di GALE Partners, Virtusa, Sapient, Headstrong, Wipro, dan Mphasis. Tanggung jawabnya mencakup pengelolaan bisnis layanan keuangan di seluruh Asia-Pasifik dan pemberian saran kepada para eksekutif tingkat C-suite tentang transformasi digital, hingga pengembangan lini bisnis baru dan kepemimpinan dalam proyek teknologi berskala besar. Pengalamannya meliputi strategi, pengembangan bisnis, pengelolaan hubungan klien, pengelolaan laba dan rugi (P&L), operasional, serta teknologi baru seperti AI, pembelajaran mesin, otomasi proses robotik, blockchain, dan ilmu data.

EvoluteIQ adalah perusahaan AI untuk korporasi dan otomasi cerdas yang berfokus membantu organisasi mengotomatiskan dan mengorkestrasi proses bisnis yang kompleks dan menyeluruh. EIQ Platform menyatukan AI agentik, AI generatif, otomasi proses dan pengambilan keputusan, RPA cerdas, pemrosesan peristiwa, arsitektur data terpadu, analitik, konektor korporasi, serta pengembangan aplikasi multikanal dalam lingkungan minim kode/tanpa kode. Platform ini dirancang agar perusahaan dapat menghubungkan sistem yang sudah ada, membangun dan menerapkan agen AI serta alur kerja otomatis, memantau hasil, dan memperluas otomasi di berbagai bidang, seperti pengalaman pelanggan, keuangan, operasional, penjualan, dan manajemen rantai pasok. Didirikan pada 2019, EvoluteIQ memperluas fokusnya ke otomasi korporasi berbasis agen melalui teknologi seperti AI Workbench dan Agentic Mesh Architecture. Pada 2025, perusahaan ini mengumumkan investasi pertumbuhan minoritas senilai $53 juta yang dipimpin Baird Capital untuk mendukung ekspansi global dan meningkatkan investasi lebih lanjut dalam operasional penelitian dan pengembangan di Bengaluru.

Sebelum ikut mendirikan EvoluteIQ pada 2019, Anda menghabiskan dua dekade bekerja di bidang layanan keuangan, teknologi perusahaan, dan transformasi digital. Masalah berulang apa yang Anda lihat di dalam organisasi besar sehingga akhirnya meyakinkan Anda bahwa ada peluang untuk membangun EvoluteIQ, dan apa yang ingin Anda lakukan dengan pendekatan berbeda?

Sebelum EvoluteIQ, saya bekerja selama 25 tahun di bidang konsultasi. Sebagian besar waktu itu saya habiskan untuk membantu lembaga keuangan besar menjalankan inisiatif transformasi. Inisiatif tersebut mencakup program perbankan digital tahap awal, serta perdagangan, manajemen risiko, dan transformasi menyeluruh yang lebih luas. Seiring waktu, saya melihat permintaan akan otomasi terus meningkat, dan kami membantu perusahaan menerapkan platform dari sejumlah vendor terbesar.

Pada akhirnya, yang mendorong kami mendirikan EvoluteIQ adalah peluang untuk beralih dari menerapkan teknologi milik pihak lain menjadi membangun teknologi sendiri. Kami melihat peluang untuk menerapkan pendekatan otomasi yang lebih terpadu, tanpa mengharuskan perusahaan menggabungkan berbagai teknologi, lisensi, dan lapisan integrasi. Hal itu menjadi salah satu alasan kami mendirikan EvoluteIQ pada 2019.

Dalam wawancara Unite.AI sebelumnya bersama salah satu pendiri Anda, Sameet Gupte, ia membahas visi EvoluteIQ yang lebih luas untuk mengalihkan perusahaan dari otomasi berbasis tugas menuju operasional otonom menyeluruh yang berlandaskan AI. Bagaimana pengelolaan perubahan regulasi menunjukkan alasan peralihan dari mengotomatiskan tugas satu per satu ke mengorkestrasi seluruh proses bisnis itu diperlukan?

Perubahan regulasi jarang hanya berdampak pada satu tugas yang terpisah. Pada 2020, kami membangun solusi untuk transisi LIBOR. Bank menghadapi perubahan berskala besar yang berdampak pada kontrak yang sudah ada dan mengharuskan tim operasional, paralegal, serta tim bisnis untuk meninjau dan memperbaiki kontrak tersebut. Banyak institusi pada dasarnya menanggapi masalah itu dengan menambah jumlah orang yang menanganinya. Pelajaran yang kami petik dari LIBOR adalah bahwa regulasi tertentu memang berubah, tetapi tantangan mendasarnya terus berulang. Perubahan regulasi dan kepatuhan merupakan kebutuhan operasional yang berkelanjutan.

Dengan perubahan terbaru yang diusulkan FinCen terhadap aturan Anti-Pencucian Uang/Pemberantasan Pendanaan Terorisme (AML/CFT), kita melihat pergeseran dari model kepatuhan yang sangat preskriptif dan sekadar mencentang kotak. Hal ini justru meningkatkan standar kepatuhan, bukan meringankan beban, karena lembaga harus menafsirkan peraturan, menguraikan risiko mereka sendiri, dan menentukan dampak risiko tersebut terhadap model operasional mereka. Pergeseran ini dengan sendirinya menjangkau berbagai departemen dan fungsi di seluruh organisasi, bukan hanya tim kepatuhan dan audit.

Anda berpendapat bahwa bank seharusnya berhenti memperlakukan setiap perubahan regulasi besar sebagai proyek transformasi baru dan mulai menjadikan pengelolaan perubahan regulasi sebagai kapabilitas operasional permanen. Seperti apa model operasional tersebut dalam praktiknya, dan mengapa institusi keuangan selama ini kesulitan membangunnya?

Model operasi baru harus memahami bahwa perubahan berlangsung terus-menerus; perubahan bukan lagi proses yang perlu diluncurkan setiap tiga bulan atau saat auditor datang memeriksa. Pengembangan solusi untuk LIBOR menunjukkan kepada kami bahwa meskipun suatu perubahan regulasi pada akhirnya dapat diterapkan, kebutuhan untuk beradaptasi tidak akan hilang. Memahami perubahan, menerjemahkannya menjadi persyaratan operasional, dan memperbarui proses akan tetap diperlukan untuk menghadapi perubahan regulasi berikutnya.

Model operasi baru juga tidak boleh terkotak-kotak dalam fungsi kepatuhan. Dalam model yang lebih berorientasi pada risiko, fungsi kepatuhan mungkin tetap menjadi pihak yang pada akhirnya bertanggung jawab atas kepatuhan, tetapi fungsi operasional, hukum, dan, dalam beberapa kasus, manajemen risiko pihak lawan juga menjadi semakin penting. Salah satu kekeliruan yang dapat dilakukan institusi adalah meremehkan betapa luasnya dampak perubahan regulasi terhadap organisasi.

Secara historis, hal ini sulit dilakukan karena perusahaan telah membangun infrastruktur teknologi yang terfragmentasi dan model operasi yang terkotak-kotak. Ketika berbagai unit bisnis mengandalkan platform RPA, BPM, pelaporan, dan platform lainnya secara terpisah, menanggapi persyaratan baru dengan sendirinya menjadi proyek integrasi.

Ketika regulasi baru diberlakukan, bank mungkin perlu menentukan pelanggan, produk, kontrak, sistem, dan proses mana yang terdampak. Dalam aspek apa AI dapat meningkatkan analisis dampak secara signifikan, dan bagian proses mana yang masih memerlukan aturan deterministik atau pertimbangan manusia?

AI dapat secara signifikan mengurangi pekerjaan manual yang diperlukan untuk memahami dan menerapkan perubahan regulasi. Secara lebih spesifik, AI dapat membantu menganalisis dan mengategorikan informasi dalam jumlah besar serta mengarahkan perhatian manusia ke hal-hal yang paling perlu dicermati. Sebagai contoh, kemampuan EvoluteIQ dalam merespons regulasi dapat mengategorikan dan memprioritaskan kontrak berdasarkan klien dan jenis aset, menghubungkan informasi tersebut dengan sistem perusahaan dan sumber data eksternal, lalu mengoordinasikan pekerjaan lanjutan di bidang hukum, risiko, dan operasional. Dengan demikian, institusi dapat beralih dari sekadar mengidentifikasi hal-hal yang mungkin terdampak menjadi mengelola perubahan yang diakibatkannya di seluruh proses.

Kontrol dan pengawasan manusia tetap esensial. Dalam proses yang diatur, ada bagian-bagian yang mengharuskan institusi menetapkan aturan bisnis, kondisi, pengecualian, dan jalur eskalasi secara jelas. Model yang kami yakini menggabungkan kemampuan adaptasi AI dengan otomasi deterministik dan pertimbangan manusia apabila diperlukan. AI dapat membantu menafsirkan dan menyoroti hal-hal yang mungkin memerlukan tindakan; aturan deterministik dapat mengatur pelaksanaan keputusan yang telah ditetapkan; sedangkan pengecualian atau keputusan yang membutuhkan pertimbangan dapat dieskalasikan kepada orang yang tepat.

Penerapan regulasi sering kali melibatkan tim hukum, kepatuhan, risiko, operasional, data, dan teknologi. Bagaimana AI dan orkestrasi proses dapat membantu kelompok-kelompok ini menggunakan penafsiran regulasi yang sama, alih-alih membuat alur kerja terpisah dan aturan bisnis yang berpotensi saling bertentangan?

Salah satu implikasi terbesar dari model kepatuhan yang lebih berorientasi pada risiko adalah tanggung jawab tersebar lebih luas di seluruh organisasi. Akuntabilitas pada akhirnya mungkin tetap berada di fungsi kepatuhan, tetapi tim operasional, hukum, dan risiko pihak lawan juga memiliki peran penting. Artinya, institusi harus menghindari anggapan bahwa penerapan regulasi dapat dilakukan secara terpisah oleh fungsi kepatuhan.

Itulah sebabnya platform terintegrasi sangat penting. Dalam organisasi besar, berbagai sistem pencatatan resmi dan aturan bisnis perlu diintegrasikan dalam model baru ini, tetapi hal itu juga berarti kerumitan keamanan harus diperhitungkan. Pendekatan terpadu dapat mengurangi risiko bahwa berbagai bagian organisasi menerapkan perubahan yang sama melalui tumpukan teknologi yang sepenuhnya terpisah.

AI generatif dapat menafsirkan dokumen regulasi yang kompleks, tetapi bank tidak dapat menoleransi halusinasi atau penafsiran yang tidak konsisten ketika keputusan kepatuhan dipertaruhkan. Perlindungan apa yang sebaiknya diterapkan pada sistem AI yang digunakan untuk menangani perubahan regulasi, dan pada tahap mana pakar manusia harus tetap dilibatkan dalam proses pengambilan keputusan?

Pertama, jangan menerapkan agen AI secara terpisah karena hal itu dapat memicu proliferasi agen tanpa tata kelola yang memadai.

Kedua, hal-hal yang dapat diotomatisasi organisasi tidak hanya dibatasi oleh kemampuan teknisnya, tetapi juga oleh regulasi, privasi, dan data apa saja yang boleh dibagikan secara hukum.

Prinsip desain utama yang perlu diikuti adalah bahwa AI harus mempercepat pekerjaan penafsiran tanpa mengambil alih keputusan. Akuntabilitas atas kepatuhan tetap berada pada orang-orang yang ditunjuk, sebagaimana diharapkan regulator. Perlindungan terbagi menjadi dua kelompok: kontrol atas keluaran AI dan penempatan titik-titik pengambilan keputusan oleh manusia secara sengaja. Setiap keluaran AI harus didasarkan pada sumber yang berwenang, dengan pagar pengaman untuk masukan dan keluaran yang diterapkan di dalam sistem AI.

Terakhir, untuk setiap keluaran, catatan audit yang mencakup klausul sumber, versi model dan prompt, tingkat keyakinan, peninjau, keputusan, serta alasan keputusan harus disimpan.

Kemampuan untuk diaudit sangat penting, terutama di sektor jasa keuangan. Jika AI membantu menafsirkan regulasi, menyusun aturan bisnis, mengidentifikasi pelanggan yang terdampak, dan memulai alur kerja, bagaimana institusi dapat menyimpan jejak bukti yang jelas untuk menunjukkan kepada regulator secara persis bagaimana dan mengapa setiap keputusan dibuat?

Di industri yang sangat diatur, ketertelusuran harus lebih dari sekadar mendokumentasikan keputusan akhir. Jauh lebih bermanfaat jika kita dapat melihat rekonstruksi alur yang mengarah pada keputusan tersebut, termasuk informasi yang digunakan, aturan yang diterapkan, keputusan yang diambil, perubahan yang terjadi selama proses, serta kapan manusia turun tangan dan apa yang mereka setujui.

Ketika banyak agen, aturan bisnis, dan alur kerja saling berinteraksi, ketertelusuran menjadi semakin penting. Kemampuan audit harus terintegrasi dalam lapisan orkestrasi. Jejak keputusan dapat melacak keputusan, perubahan aturan, dan alasan di baliknya, sementara ketertelusuran agen dari awal hingga akhir memberikan visibilitas atas rangkaian tindakan otonom.

Jika regulator menanyakan alasan seorang nasabah, kontrak, atau transaksi tertentu ditangani dengan cara tertentu, lembaga keuangan harus dapat menelusuri hasil tersebut kembali melalui data, aturan, keputusan berbasis AI, persetujuan, dan tindakan yang menghasilkannya. Inilah yang mengubah keterjelasan alasan dari persoalan pada tingkat model menjadi kapabilitas operasional.

Bank-bank besar beroperasi dengan infrastruktur lama yang telah digunakan selama puluhan tahun, sementara data penting nasabah dan transaksi tersebar di banyak sistem. Bagaimana mereka dapat membangun lapisan kepatuhan berbasis AI yang dapat digunakan kembali tanpa melakukan penggantian mahal terhadap seluruh teknologi yang mendasarinya? 

Kapabilitas perusahaan yang baru harus dapat beroperasi di dalam infrastruktur yang sudah ada. Tidak masuk akal jika kita mengharapkan hal sebaliknya. Konsolidasi juga penting karena kami semakin sering mendengar dari pelanggan bahwa mereka memiliki beberapa platform RPA atau sistem BPM lama dengan beragam teknologi pelaporan yang terpisah di seluruh perusahaan. Pelanggan kami semakin vokal menyuarakan bahwa mereka ingin berfokus pada perangkat dan sistem yang menghasilkan ROI, alih-alih mencari penggantinya. Karena itu, lapisan kepatuhan yang dapat digunakan kembali harus berfungsi di seluruh lingkungan yang ada, bukan berasumsi bahwa semua sistem di bawahnya akan diganti.

Anda telah bekerja sama dengan lembaga keuangan melalui berbagai generasi teknologi, mulai dari sistem inti tradisional hingga otomasi proses robotik, pembelajaran mesin, dan kini AI agentik. Apa perbedaan mendasar dalam transisi AI saat ini, dan menurut Anda, di mana lembaga keuangan berisiko mengulangi kesalahan dari siklus otomasi sebelumnya?

Generasi otomasi sebelumnya ditujukan untuk pekerjaan yang sudah didefinisikan dengan baik. Sistem perbankan inti mengodifikasi catatan dan transaksi. RPA memprogram penekanan tombol di berbagai layar. Pembelajaran mesin menghasilkan prediksi yang terbatas, seperti skor penipuan dan risiko kredit, berdasarkan data terstruktur dengan akurasi yang dapat diukur. Dalam setiap kasus, manusia atau aturan tetap menentukan langkah selanjutnya, dan teknologi menjalankan alur yang sudah diketahui.

AI agentik mengubah hal itu dalam beberapa hal:

• AI agentik menangani pekerjaan tidak terstruktur yang memerlukan pertimbangan dengan lebih efektif. Bank tidak lagi sekadar mengotomatiskan tugas. Mereka mendelegasikan hasil, dan sistem memilih jalannya sendiri.
• Kegagalannya terjadi tanpa disadari. Ketika bank mengubah tata letak layar, bot RPA langsung gagal dan seseorang memperbaikinya. Model bahasa yang keliru justru menghasilkan jawaban yang lancar, meyakinkan, dan penuh percaya diri. Itulah masalahnya.
• Perilakunya bersifat probabilistik sehingga mendasarkannya pada konteks perusahaan untuk menghindari halusinasi sangatlah penting.
• Terakhir, membangun dengan AI kini menjadi murah dan pengguna bisnis kini dapat membuat agen yang berfungsi hanya dalam satu sore. Dulu, kapasitas TI menjadi hambatan bagi otomasi; sekarang, yang menjadi hambatan adalah kapasitas tata kelola.

Lembaga keuangan juga harus memastikan bahwa pelajaran dari era otomasi tradisional tidak dilupakan. Beberapa contohnya meliputi:

• Mengotomatiskan proses yang bermasalah. Warisan terbesar RPA adalah ribuan bot yang ditambahkan di atas proses yang tidak pernah dirancang ulang. Hal itu menciptakan utang teknis yang rapuh, yang hingga kini masih harus dipelihara oleh bank. Menambahkan agen ke alur kerja terfragmentasi yang sama akan mengulangi kesalahan tersebut dengan tingkat kecanggihan yang lebih tinggi. Bank sebaiknya merancang ulang pekerjaan terlebih dahulu, lalu memutuskan apa yang akan didelegasikan.
• Mengejar metrik yang hanya tampak mengesankan: uji bukti konsep terhenti tanpa jalur menuju produksi yang didanai. Menghitung jumlah agen yang diterapkan sama saja mengulangi kebiasaan RPA menghitung bot alih-alih mengukur hasil bisnis yang nyata.
• Kurang berinvestasi pada fondasi data. Pembelajaran mesin mengajarkan bahwa kualitas model dibatasi oleh kualitas data. Agen yang mengambil informasi dari kebijakan usang, dokumen duplikat, atau sumber yang saling bertentangan akan bernalar dengan penuh keyakinan berdasarkan premis yang keliru.

Ke depan, apakah Anda melihat kepatuhan terhadap regulasi berkembang menuju kepatuhan berkelanjutan atau bahkan sebagian otonom, ketika sistem AI mendeteksi perubahan regulasi, menilai dampaknya, memperbarui alur kerja, dan hanya meneruskan kasus-kasus pengecualian yang memerlukan pertimbangan manusia? Apa yang perlu terjadi agar bank dan regulator merasa nyaman dengan tingkat otonomi seperti itu?

Ya, tetapi otonomi akan hadir secara bertahap. Deteksi, triase, pemetaan dampak, dan pembaruan alur kerja untuk perubahan yang terdefinisi dengan baik akan berlangsung secara berkelanjutan dan otomatis. Pertimbangan atas aturan yang ambigu, penerimaan risiko, dan posisi regulasi akan tetap berada di tangan manusia. Kondisi akhir yang realistis adalah “otonomi dengan pengawasan”, ketika mesin menjalankan siklus secara default dan manusia mengawasi berdasarkan pengecualian.

Agar hal ini dapat terwujud, regulator juga perlu menerbitkan aturan dalam format terstruktur dan berversi, dengan mengembangkan inisiatif seperti upaya FCA dan Bank of England dalam pelaporan regulasi digital.

Selain itu, sistem eksekusi perlu dilengkapi dengan mekanisme untuk membalikkan perubahan dan tombol penghentian darurat, sehingga perubahan alur kerja otonom harus mudah dikembalikan ke kondisi semula saat anomali, tingkat kesalahan, atau perubahan model terdeteksi. Kepercayaan akan tumbuh lebih cepat ketika para pengawas menggunakan alat serupa sendiri. Hal ini menciptakan kesamaan bahasa untuk pengujian dan, seiring waktu, mungkin juga pengawasan langsung dari mesin ke mesin.

Terima kasih atas wawancara yang luar biasa ini. Para pembaca yang ingin mengetahui lebih lanjut dapat mengunjungi EvoluteIQ.