Jayant Swamy, Kepala Arsitek Perusahaan di Genpact – Seri Wawancara

Jayant Swamy, Kepala Arsitek Perusahaan di Genpact, adalah pemimpin teknologi dan data dengan pengalaman lebih dari dua dekade yang mencakup arsitektur perusahaan, kecerdasan buatan, rekayasa data, teknologi awan, dan transformasi digital berskala besar. Sebelum bergabung dengan Genpact pada 2024, ia menjabat sebagai CTO dan Kepala Arsitek di Xtrac8.Tech serta sebagai CTO dan Co-Founder sebuah startup AI yang fokus pada teknologi termasuk generative AI dan model bahasa besar. Swamy sebelumnya menghabiskan lebih dari satu dekade di Accenture, di mana peran kepemimpinannya meliputi CTO, Global Lead dan Global Managing Director Institute of Applied Intelligence, Managing Director dan Global Business Lead untuk bisnis Data on Cloud, serta Chief Data Architect dan Global Lead untuk Data Engineering dan Data Innovation. Pada awal kariernya, ia menghabiskan lebih dari tujuh tahun di Fannie Mae mengawasi inisiatif teknologi dan informasi bisnis terkait layanan dan manajemen kerugian kredit, setelah beberapa tahun sebagai Senior Principal di Oracle (ORCL ).

Genpact adalah perusahaan layanan teknologi dan bisnis global yang berfokus membantu perusahaan mengubah operasi kompleks melalui kecerdasan buatan, data, intelijen proses, dan keahlian domain. Perusahaan ini menelusuri asalnya dari inisiatif tahun 1997 di dalam GE Capital, menjadi independen pada 2005, dan go public di New York Stock Exchange pada 2007. Saat ini, Genpact bekerja dengan organisasi di berbagai industri termasuk perbankan, asuransi, keuangan, rantai pasokan, barang konsumen, perawatan kesehatan, dan teknologi, dengan penekanan yang semakin besar pada generative AI, sistem agenik, otomatisasi, dan operasi perusahaan yang didukung AI.

Karier Anda telah membawa Anda dari peran arsitektur perusahaan dan kepemimpinan data di Oracle, Fannie Mae, dan Accenture ke lingkungan startup serta posisi Anda saat ini sebagai Kepala Arsitek Perusahaan di Genpact. Bagaimana pengalaman tersebut membentuk pandangan Anda tentang di mana otonomi AI menciptakan nilai perusahaan yang nyata dan di mana penilaian manusia tetap penting? 

Sepanjang karier saya, saya belajar bahwa skala, tata kelola, integrasi, dan risiko sama pentingnya dengan inovasi. Pengalaman di perusahaan menunjukkan bahwa teknologi yang mengesankan tetap gagal jika tidak dapat beroperasi dalam organisasi; startup menegaskan nilai bergerak cepat, bereksperimen, dan menjaga arsitektur tetap sederhana serta dapat beradaptasi. Otonomi AI bekerja paling baik ketika Anda menggabungkan kedua pola pikir — berinovasi dengan kecepatan tinggi sambil mempertahankan fondasi yang kuat. Dengan cara itu, AI dapat benar‑benar mengubah alur kerja dalam sebuah organisasi. Temuan dari riset terbaru kami menegaskan poin tersebut dengan jelas.

Model itu sendiri hanyalah satu bagian dari persamaan. Arsitektur di sekitarnya — data, sistem, alur kerja, kontrol, dan integrasi — menentukan apakah AI menciptakan nilai pada skala besar. Itulah yang kami maksud dengan “tidak ada kecerdasan buatan tanpa intelijen proses.” Ini juga menjadi dasar kerja AI terapan kami di Genpact Labs, di mana kami mengambil kemampuan AI yang muncul dan mengubahnya menjadi solusi produksi‑grade yang siap untuk klien. Setiap kemampuan dihubungkan dengan hasil bisnis yang dapat diukur dan terintegrasi ke dalam alur kerja, data, serta kontrol yang diperlukan untuk beroperasi.

AI harus diberikan ruang untuk bertindak ketika tujuan jelas, data dapat diandalkan, dan batasan dipahami dengan baik. Penilaian manusia tetap penting untuk keputusan yang berisiko tinggi, ambigu, subjektif, diatur, atau memerlukan akuntabilitas dan empati. Otonomi bukan berarti menghilangkan manusia dari sistem. Sebaliknya, ini tentang merancang sistem sehingga semua orang tahu di mana AI dapat beroperasi secara independen, di mana manusia perlu melihat, dan di mana penilaian manusia harus mengambil alih.

Banyak perusahaan menilai AI yang berhadapan dengan pelanggan terutama melalui kecepatan, tingkat penahanan, dan penghematan biaya. Mengapa metrik‑metrik ini dapat memberikan gambaran yang menyesatkan tentang apakah teknologi tersebut benar‑benar meningkatkan pengalaman pelanggan?

Masalahnya adalah metrik‑metrik tersebut pada dasarnya mengukur efisiensi. Mereka menunjukkan bagaimana sistem beroperasi, tetapi tidak selalu mencerminkan pengalaman pelanggan. Ambil contoh penahanan: tingkat tinggi mungkin tampak berhasil secara internal, namun dapat menyembunyikan hasil yang buruk jika pelanggan menyerah, mengulang pertanyaan, menerima jawaban yang tidak lengkap, atau tidak dapat menghubungi orang ketika diperlukan. Penahanan menunjukkan AI menjaga pelanggan tetap berada dalam sistem, bukan bahwa mereka mendapatkan apa yang mereka butuhkan. Hal yang sama berlaku untuk penghematan biaya, yang dapat terjadi dengan mengorbankan kepercayaan, kepuasan, atau kualitas penyelesaian.

Sistem AI mengoptimalkan berdasarkan sinyal yang Anda berikan, sehingga perusahaan harus merancang petunjuk pengukuran ke dalam sistem sejak awal — menghubungkan metrik front‑end seperti kecepatan dan penahanan dengan sinyal hilir seperti penyelesaian masalah dan apakah hasilnya menimbulkan masalah di tempat lain. Pada akhirnya, AI yang berhadapan dengan pelanggan harus diukur berdasarkan apakah ia menyelesaikan masalah mendasar pengguna akhir secara akurat, adil, dan dengan tingkat dukungan manusia yang tepat.

Apa sinyal yang harus digunakan agen AI untuk mengenali ketidakpastian, frustrasi, urgensi, atau situasi yang berada di luar alur kerja yang telah ditetapkan? 

Tidak ada satu sinyal ajaib — yang penting adalah memberi sistem cukup konteks dan observabilitas untuk mengenali ketika kepercayaan, otoritas, atau informasinya tidak lagi memadai. Hal ini dapat muncul sebagai informasi yang bertentangan, upaya gagal berulang, atau agen yang berputar‑putar. Bisa juga berupa perubahan bahasa pelanggan — sinyal jelas frustrasi atau urgensi — atau tugas yang memerlukan informasi, akses, atau otoritas yang tidak dimiliki agen.

Sistem juga perlu mengetahui batasannya sendiri. Jika sebuah isu berada di luar alur kerja yang dirancang, membutuhkan data yang tidak dapat diakses, atau melewati ambang risiko yang ditetapkan, hal itu harus memicu jalur yang berbeda. Tujuannya bukan agar agen menangani setiap skenario yang mungkin, melainkan agar agen tahu kapan harus berhenti, melakukan eskalasi, atau meminta bantuan.

Bagaimana perusahaan dapat membedakan antara interaksi yang hanya kompleks dan yang benar‑benar memerlukan penilaian atau empati manusia?

Garis pemisah bukanlah seberapa sulit tugasnya. Itu tergantung pada seberapa banyak penilaian, konsekuensi, dan konteks manusia yang dibawa keputusan tersebut. Menyiapkan operasi agenik di mana mesin memproses dan manusia memvalidasi memerlukan pemahaman tentang di mana nilai manusia tidak pernah dapat digantikan.

AI dapat menangani tugas yang sangat kompleks ketika tujuan jelas, data dapat diandalkan, proses terdefinisi, dan hasil dapat diukur. Kompleksitas saja tidak memaksa kehadiran manusia jika sistem memahami batasan dalam ruang lingkup operasinya. Manusia perlu dilibatkan ketika niat pelanggan tidak jelas, situasi memerlukan kebijaksanaan, ada banyak hasil yang sah, atau keputusan membawa konsekuensi keuangan, hukum, medis, atau reputasi yang signifikan. Beberapa interaksi juga memerlukan jaminan, penjelasan, negosiasi, atau empati — bukan sekadar jawaban. Keterlibatan manusia di sini sama pentingnya dengan akurasi teknis. Arsitektur harus mencerminkan perbedaan tersebut. Titik‑titik intervensi harus dirancang ke dalam alur kerja sejak awal, bukan diputuskan setelah terjadi masalah.

Seperti apa proses eskalasi yang efektif agar pelanggan tidak harus mengulang diri atau memulai kembali interaksi ketika agen manusia mengambil alih?

Eskalasi yang baik bukan sekadar memindahkan pelanggan — melainkan memindahkan konteks, sehingga orang berikutnya dapat langsung menuju penyelesaian. Ketika manusia mengambil alih, mereka seharusnya sudah memiliki riwayat percakapan, identitas dan profil pelanggan, serta apa yang sudah dicoba AI — cukup untuk menghindari meminta pelanggan mengulang kembali.

Ini sebagian besar merupakan masalah arsitektur: jika AI hanya berada di antarmuka chat front‑end, terpisah dari CRM, ERP, sumber pengetahuan, alur kerja, dan lapisan orkestrasi, penyerahan yang mulus menjadi tidak mungkin.

Haruskah ambang eskalasi berubah tergantung pada faktor seperti risiko keuangan, kerentanan pelanggan, persyaratan regulasi, atau potensi konsekuensi keputusan yang salah?

Aturan eskalasi harus bergantung pada tingkat risiko. Semakin besar konsekuensi kesalahan, semakin cepat manusia harus dilibatkan.

Reset kata sandi dapat dijalankan sepenuhnya otomatis, tetapi transaksi keuangan yang diperselisihkan harus memiliki kontrol yang lebih ketat. Dalam klaim atau penagihan, ini mungkin berarti otonomi penuh untuk pembaruan status rutin, tetapi pemeriksaan manusia wajib ketika kasus melewati ambang nilai dolar atau muncul flag kesulitan. Semakin diatur atau berkonsekuensi keputusan, semakin kuat pengawasan yang diperlukan. Pelanggan yang rentan mungkin memerlukan intervensi manusia lebih awal, dan keputusan dengan konsekuensi yang tidak dapat dibalik harus memiliki ambang otonomi yang lebih rendah.

Ambang‑ambang tersebut juga tidak boleh diserahkan kepada agen individu untuk menafsirkan secara spontan. Mereka harus dibangun ke dalam arsitektur dan lapisan orkestrasi, dengan aturan yang jelas tentang apa yang dapat dilakukan agen, apa yang memerlukan validasi tambahan, dan apa yang harus dieskalasi.

Kesempatan ada pada memungkinkan otonomi menyesuaikan diri dengan risiko — kecepatan penuh pada pekerjaan berisiko rendah, kontrol ketat di tempat yang penting. Di Genpact, kami telah menanamkan tiering ini langsung ke dalam cara kami merancang alur kerja agenik — membiarkan kasus rutin berjalan secara otonom sambil mengarahkan apa pun yang melewati ambang risiko atau nilai dolar ke manusia, secara otomatis dan tanpa agen harus memutuskan untuk melakukan eskalasi. Perusahaan yang memberikan setiap interaksi tingkat otonomi yang sama dengan cepat mengubah kemudahan menjadi kesalahan mahal.

Selain penyelesaian tugas, metrik apa yang harus digunakan organisasi untuk mengevaluasi apakah sistem layanan pelanggan otonom menghasilkan hasil positif bagi pelanggan?

Penyelesaian tugas berguna, tetapi jauh dari cukup. Pertanyaannya bukan, “apakah agen menyelesaikan tugas?” melainkan, “apakah pelanggan berakhir di posisi yang lebih baik?” Itulah perbedaan antara menjanjikan hasil dan bertanggung jawab atasnya.

Ini berarti melihat melampaui waktu penanganan ke metrik seperti akurasi respons, penyelesaian pada kontak pertama, kontak berulang, kualitas eskalasi, kepuasan pelanggan, serta keadilan dan konsistensi hasil. Juga berarti mengukur melampaui satu interaksi. Agen dapat tampak berhasil pada satu bagian perjalanan pelanggan sementara menciptakan masalah di hilir. Misalnya, kasus yang ditutup cepat masih dapat memicu panggilan lain beberapa minggu kemudian, memengaruhi sentimen pelanggan dan akhirnya memerlukan remediasi manusia, sehingga penting melacak apakah kasus tersebut masih terselesaikan 30 hari kemudian.

Penting juga mengetahui apakah sistem benar‑benar menyelesaikan kebutuhan mendasar pelanggan, bukan sekadar menutup interaksi dan menganggapnya kemenangan. Itu memerlukan observabilitas menyeluruh dari ujung ke ujung across alur kerja, bukan sekadar metrik dari antarmuka AI. Mengukur hasil pelanggan dan bisnis, bukan sekadar aktivitas,lah yang mengungkap ROI nyata AI.

Bagaimana bisnis dapat mencegah agen AI mengoptimalkan target operasional, seperti mengurangi volume panggilan atau waktu penanganan, dengan mengorbankan keadilan, kepercayaan, atau kebutuhan mendasar pelanggan?

Sistem AI secara luar biasa pandai mencapai target apa pun yang diberikan. Itulah kelebihan dan jebakannya: beri sistem agenik bahwa kecepatan adalah satu‑satunya tujuan, dan ia akan mengorbankan segala hal lain untuk mencapainya.

Bisnis perlu memberikan AI seperangkat tujuan yang seimbang di mana efisiensi penting, tetapi juga berdampingan dengan hasil pelanggan, risiko, keadilan, akurasi, dan kepercayaan. Ini dicapai dengan menempatkan batasan yang jelas pada perilaku yang dapat diterima, menguji bias dan hasil tak terduga, mempertahankan mekanisme override manusia, terus memantau keputusan, serta membuat output dapat ditelusuri dan diaudit. Tata kelola tidak dapat menjadi sesuatu yang ditambahkan setelah sistem berjalan. Ia harus dibangun ke dalam arsitektur sejak awal.

Konteks pelanggan mungkin tersebar di percakapan sebelumnya, transaksi, saluran, dan sistem perusahaan. Bagaimana perusahaan dapat memberi agen AI cukup konteks untuk membuat keputusan yang lebih baik tanpa menimbulkan risiko privasi, keamanan, atau tata kelola baru?

Jawabannya bukan memberi agen AI akses ke segala hal. Itu adalah memberi akses yang diatur ke informasi yang tepat pada waktu yang tepat. Perusahaan membutuhkan lapisan data dan integrasi yang kuat yang menghubungkan agen ke sistem otoritatif sambil mengontrol apa yang dapat dilihat dan dilakukan masing‑masing agen. Itu mencakup akses berbasis peran dan tujuan, data minimal yang diperlukan, pelacakan lineage, log audit, dan perlindungan informasi sensitif.

Konteks lebih banyak meningkatkan keputusan AI, tetapi hanya bila diatur. Jika tidak, menyelesaikan satu masalah dapat menimbulkan masalah privasi atau keamanan yang jauh lebih besar. Jika dikelola dengan baik, konteks akan terakumulasi saat sistem belajar dari pengecualian sebelumnya, membuat interaksi di masa depan lebih cerdas tanpa menimbulkan risiko baru.

Seiring AI yang berhadapan dengan pelanggan menjadi lebih otonom, bagaimana Anda memperkirakan hubungan antara agen AI dan karyawan manusia akan berkembang, dan kemampuan apa yang perlu dibangun organisasi sekarang untuk membuat kolaborasi tersebut berhasil?

Peran manusia akan semakin beralih dari mengeksekusi setiap langkah proses ke mengarahkan, mengawasi, dan meningkatkan sistem agen yang menangani volume kerja. Orang akan menghabiskan lebih banyak waktu menetapkan tujuan, menangani pengecualian, menggunakan penilaian, memvalidasi keputusan berisiko tinggi, menyempurnakan alur kerja, memantau perilaku agen, dan memperbaiki arsitektur serta tata kelola di balik sistem agenik tersebut. Ini juga mengubah keterampilan yang dibutuhkan perusahaan. Kefasihan AI penting, tetapi begitu pula pemikiran kritis, keahlian domain, orkestrasi agen, observabilitas, dan kemampuan menantang sistem AI ketika sesuatu tampak keliru.

Ini bukan hanya tantangan tenaga kerja. Organisasi memerlukan arsitektur yang mendukung kolaborasi tersebut, menghubungkan agen ke data dan sistem yang tepat, mengoordinasikan cara mereka bekerja bersama, serta memberi orang visibilitas terhadap apa yang mereka lakukan. Tata kelola, override manusia, dan eskalasi semuanya harus dirancang sejak awal.

Dalam peran saya sebagai Kepala Arsitek Perusahaan, saya melihatnya sebagai tugas saya untuk memastikan seluruh organisasi tidak hanya tahu cara menggunakan AI, tetapi juga kapan mempercayainya, mempertanyakannya, dan mengambil kendali. Dengan cara ini, arsitektur menjadi pintu gerbang menuju AI yang dapat dipertanggungjawabkan, yang mendorong kepercayaan dan dampak nyata.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin belajar lebih lanjut sebaiknya mengunjungi Genpact.