Neal Lathia, Co-Founder dan CTO Gradient Labs – Seri Wawancara

Neal Lathia, Co-Founder dan CTO Gradient Labs, adalah seorang pemimpin machine learning dan data science dengan hampir dua dekade pengalaman yang mencakup teknologi keuangan, platform konsumen, dan penelitian akademis. Sebelum mendirikan Gradient Labs pada 2023, ia menghabiskan lebih dari lima tahun di Monzo, naik jabatan dari Senior Data Scientist menjadi Director of Machine Learning dan Staf Machine Learning Engineer, di mana ia membangun infrastruktur machine learning dan membantu memperluas disiplin tersebut untuk mendukung aplikasi di bidang operasi, kejahatan keuangan, dan produk. Sebelumnya, Lathia bekerja sebagai Senior Data Scientist di Skyscanner dan memegang posisi riset di University of Cambridge dan University College London, di mana karyanya mengeksplorasi sistem rekomendasi, data perilaku, sensor smartphone, dan layanan digital yang dipersonalisasi. Di Gradient Labs, ia kini memimpin teknologi di balik agen AI yang dirancang untuk alur kerja layanan keuangan yang kompleks dan diatur.

Gradient Labs adalah perusahaan AI berbasis London yang membangun agen otonom khusus untuk layanan keuangan, dengan fokus mengotomatisasi operasi pelanggan yang secara tradisional memerlukan keterlibatan manusia yang signifikan. Didirikan oleh mantan pemimpin Monzo Dimitri Masin, Neal Lathia, dan Danai Antoniou, perusahaan ini mengembangkan agen untuk bidang termasuk pinjaman dan penagihan, sengketa, Know Your Business (KYB), onboarding, klaim asuransi, dan layanan pelanggan, beroperasi melalui suara, chat, dan email sambil mengintegrasikan batasan kepatuhan yang dirancang untuk lingkungan yang diatur. Gradient Labs menyatakan teknologinya kini melayani lebih dari 32 juta pengguna akhir di antara pelanggan seperti Wise, Zego, Current, Stash, dan Rho. Pada Juni 2026, perusahaan mengumumkan bahwa mereka telah memperluas pendanaan Seri A menjadi $26 juta seiring mereka bekerja menuju visi yang lebih luas untuk mengotomatisasi operasi perbankan dan fintech yang kompleks dengan agen AI khusus yang saling terhubung.

Anda menghabiskan lebih dari lima tahun membangun dan memimpin machine learning di Monzo sebelum mendirikan Gradient Labs pada 2023. Apa yang Anda lihat secara langsung di Monzo yang meyakinkan bahwa ada peluang untuk membangun perusahaan baru seputar agen AI otonom, dan mengapa kedatangan model bahasa besar membuat peluang itu menjadi mungkin?

Di Monzo, saya menghabiskan bertahun-tahun membangun sistem ML yang harus beroperasi dalam lingkungan yang diatur, di mana kesalahan memiliki konsekuensi nyata dan segala sesuatu memerlukan jejak audit. Hal yang paling memengaruhi saya adalah kebutuhan untuk mengembangkan infrastruktur khusus, karena tidak ada solusi siap pakai yang dapat beroperasi dengan aman di bawah batasan ketat tersebut. Pengalaman itu meninggalkan dua keyakinan. Pertama, teknologi akhirnya dapat mengangkat bank dari beban operasional yang telah menahan industri selama beberapa dekade. Kedua, AI umum yang bersifat horizontal tidak akan memberikan dampak signifikan — nuansa pekerjaan yang diatur terlalu spesifik. Ketika LLM menjadi cukup mampu untuk menalar melalui interaksi pelanggan yang multi‑langkah dan kadang ambigu, menjadi memungkinkan untuk membangun agen yang dapat mengelola seluruh alur kerja yang diatur secara end‑to‑end, bukan sekadar membantu manusia melakukannya. Kesempatan antara apa yang sebenarnya dibutuhkan perusahaan yang diatur dan apa yang sudah ada itulah mengapa kami mendirikan Gradient Labs dan mengapa kami bertaruh pada AI vertikal yang dibangun khusus untuk keuangan.

Anda telah menggambarkan apa yang dialami konsumen sebagai “tepi bergerigi pengalaman”: sebuah agen AI dapat melakukan tugas yang luar biasa kompleks sementara sistem lain gagal pada sesuatu yang sesederhana membedakan nomor telepon dari nama. Apa yang sebenarnya menyebabkan kesenjangan dramatis antara pengalaman AI ketika model dasar mungkin memiliki kemampuan yang serupa?

Saya rasa kesenjangan lebih berkaitan dengan seberapa banyak rekayasa yang diterapkan pada model daripada kompetensi mentah model itu sendiri. Jika sebuah sistem gagal pada tugas sederhana, seperti salah mengira nomor telepon sebagai nama, berarti sistem tersebut belum berinvestasi pada kerangka di sekitarnya, seperti validasi, logika fallback, penanganan data terstruktur, dll. Agen yang lebih mengesankan kemungkinan telah direkayasa secara tepat untuk tugasnya. Ini adalah keluarga model dasar yang sama dengan tingkat ketat yang sepenuhnya berbeda di sekitarnya, dan itulah yang menyebabkan tepi bergerigi tersebut.

Seiring model frontier terus berkembang, mengapa kegagalan AI yang tampaknya dasar masih terjadi? Apakah hal ini terutama merupakan keterbatasan model itu sendiri, atau kegagalan dalam arsitektur sistem di sekitarnya, data, alur kerja, evaluasi, dan desain produk?

Ini terutama masalah sistem, bukan modelnya. Model frontier terus meningkatkan kemampuan penalaran. Namun, perusahaan sering mengaitkannya dengan sistem yang tidak dirancang untuk perilaku berbasis probabilitas. Ada integrasi yang rapuh dan data yang tidak lengkap dalam sistem, tanpa siklus evaluasi yang nyata sebelum perubahan diluncurkan. Jadi kegagalan AI dasar dalam produksi sebenarnya bukan kegagalan AI, melainkan kegagalan dalam berinvestasi pada evaluasi, pemantauan, dan proses desain alur kerja.

Banyak perusahaan tampaknya mengoptimalkan layanan pelanggan AI berdasarkan kecepatan, containment, atau defleksi tiket. Metrik apa yang seharusnya digunakan perusahaan sebagai gantinya jika mereka ingin mengukur apakah agen AI benar‑benar meningkatkan pengalaman pelanggan?

Untuk ini, kita harus mempertimbangkan akurasi penyelesaian. Kecepatan dan penahanan biasanya dipakai untuk menilai apakah Anda berhasil menurunkan pelanggan dari telepon, bukan apakah Anda berhasil menyelesaikan masalah mereka. Akurasi penyelesaian, yang seharusnya menjadi ukuran kemampuan agen AI, akan menilai apakah agen melakukan hal yang tepat, bukan sekadar merespons dengan cepat. Ini akan bekerja bersama sinyal lain seperti tingkat kontak berulang, volume keluhan, dan seberapa sering manusia harus campur tangan setelahnya. Anda akan tahu bahwa Anda mengoptimalkan hasil yang salah jika defleksi meningkat, tetapi kontak berulang dan keluhan juga naik.

Gradient Labs berfokus pada layanan keuangan yang diatur, di mana respons yang salah dapat menimbulkan konsekuensi jauh lebih besar dibandingkan kesalahan layanan pelanggan biasa. Bagaimana Anda menentukan kapan agen AI cukup dapat diandalkan untuk menangani proses secara mandiri yang melibatkan area seperti pinjaman, sengketa, onboarding, atau pemeriksaan Know Your Customer?

Jalur default yang kebanyakan tim pilih adalah menjadi co-pilot: seseorang menyetujui setiap tindakan karena terasa lebih aman. Dan kebanyakan orang menganggapnya lebih aman. Namun pada kenyataannya, karena AI sudah benar dalam sebagian besar hal, peninjau menyetujui tanpa benar‑benar memeriksa, dan keamanan justru hilang. Hal ini tidak mengurangi beban kerja yang ada; malah membuatnya lebih cepat dan mengurangi nilai yang Anda peroleh.

Inilah mengapa konsep agen AI yang cukup dapat diandalkan sangat bergantung pada proses di Gradient Labs. Bagi kami, hal itu harus dikembangkan melalui otonomi bertahap dan tidak dianggap sebagai satu tujuan yang cukup dicentang. Agen dapat diberikan kebebasan lebih pada hal seperti KYC atau sengketa hanya setelah diuji terhadap kumpulan kasus nyata yang besar dan terus berkembang, dengan tinjauan manusia pada sampel keputusannya bahkan setelah masuk produksi. Menariknya, hal ini kemudian menegaskan bahwa kemampuan untuk dibatalkan juga sangat penting di sini. Jika sesuatu dapat dibatalkan, ia akan memperoleh otonomi lebih cepat dibandingkan yang tidak dapat dibatalkan.

Guardrails semakin sering dipresentasikan sebagai solusi untuk membuat agen AI lebih aman, namun menambahkan lebih banyak aturan juga dapat membuat sistem menjadi kaku atau menghalangi penyelesaian tugas yang sah. Bagaimana Anda menyeimbangkan otonomi dengan guardrails tanpa menjadikan agen tersebut hanya chatbot yang sangat terbatas?

Kesalahannya adalah memperlakukan guardrails sebagai dinding yang hanya dipantulkan agen. Dalam sistem kami, guardrails melakukan dua hal sekaligus. Kami menjalankan guardrails pada setiap giliran percakapan — ada yang memeriksa apa yang dikatakan pelanggan, untuk menangkap hal seperti kerentanan, kesulitan keuangan, atau keluhan, dan ada yang memeriksa apa yang akan dikatakan agen, untuk menjaga kepatuhan. Namun ketika satu guardrail aktif, ia tidak hanya memblokir: ia mengarahkan ulang agen ke prosedur yang tepat, dan keputusan itu transparan dalam penalaran agen, sehingga operator dapat melihat mengapa agen bertindak demikian. Guardrails yang lebih dalam juga tertanam dalam cara agen diajarkan memikirkan tugas, data yang dapat diakses, dan alat yang dapat digunakan. Kombinasi ini yang menjaga keamanan tanpa membuatnya kaku: agen memahami apa guardrails dan mengapa mereka ada, sehingga ia menyelesaikan tugas yang sah alih‑alih menolak segala sesuatu yang hanya tampak melanggar.

Di sini, saya rasa masalahnya adalah melihat guardrails sebagai dinding bata tempat agen memantul. Lebih spesifik, kami menjalankan dua jenis guardrails pada setiap giliran percakapan. Pertama, guardrails pelanggan yang memeriksa apa yang dikatakan pelanggan dan diharapkan menangkap kerentanan, kesulitan keuangan, keluhan pelanggan, dan hal serupa. Kedua, guardrails agen yang bekerja sebaliknya dan memeriksa apa yang akan dikatakan agen sebelum mengirim pesan, untuk menjaga kepatuhan.

Ini berarti bahwa, alih‑alih memblokir sepenuhnya sebuah tindakan ketika salah satu guardrail aktif, sistem akan mengarahkan ulang tindakan tersebut ke jalur yang tepat. Dengan cara ini, transparansi mengenai proses pengambilan keputusan agen tetap terjaga dan operator manusia mendapatkan alasan mengapa tindakan tersebut diambil.

Kami juga dapat melakukan ini karena tidak setiap aspek proses penalaran agen dipaksa melewati LLM. Guardrails seperti ini bersifat deterministik karena tidak hanya aktif di akhir percakapan, melainkan akan terpicu sepanjang siklus hidup agen. Inilah cara kami dapat mempercayakan agen dengan komunikasi sensitif dan memungkinkan kustomisasi agen tertentu untuk kasus penggunaan berskala besar secara dapat diprediksi.

Yang paling penting adalah bagaimana agen diajarkan memikirkan sebuah tugas sejak awal, memastikan bahwa ia dapat mengakses data relevan dan mengetahui alat yang harus digunakan. Kemampuan agen untuk menyelesaikan tugas yang sah alih‑alih menolak hal yang tampak tidak diizinkan inilah yang membantu meningkatkan keamanan dan menghindari kekakuan.

Di mana manusia harus tetap berada dalam loop ketika agen AI menjadi semakin otonom? Apakah ada keputusan atau interaksi pelanggan tertentu yang Anda yakini harus terus memerlukan penilaian manusia terlepas dari seberapa canggih model yang mendasarinya?

Seorang manusia perlu terlibat jika sebuah keputusan memerlukan kebijaksanaan yang jujur, memiliki dampak signifikan bagi pelanggan, atau berkaitan dengan hasil yang belum dievaluasi terhadap agen. Manusia tidak harus melakukan seluruh proses, tetapi harus meninjau atau menyetujui bila diperlukan. Hal ini mungkin bahkan lebih relevan ketika model menjadi lebih canggih, karena seringkali bukan soal kemampuan, melainkan akuntabilitas dan hak pelanggan untuk mendapatkan pengambil keputusan manusia ketika hal‑hal seperti hasil kredit atau sengketa terlibat.

Seorang manusia perlu terlibat jika sebuah keputusan memerlukan kebijaksanaan yang jujur, memiliki dampak signifikan bagi pelanggan, atau berkaitan dengan hasil yang belum dievaluasi terhadap agen. Saya bahkan akan melangkah lebih jauh daripada model fallback tipikal untuk berargumen bahwa agen semakin memperoleh tempatnya dalam bagan organisasi bersama manusia. Pada gilirannya, hal ini menggeser upaya manusia lebih banyak ke arah eskalasi dan penilaian, sementara agen menangani pekerjaan koordinasi dan pengalihan.

Namun agar hal ini benar‑benar berhasil, agen memerlukan konteks institusional yang sama seperti yang dimiliki manusia, sehingga mereka tahu siapa yang harus dilibatkan dalam isu tertentu dan kapan. Inilah mengapa kami membangun Collaborate. Untuk memungkinkan operator, insinyur, dan agen bekerja bersama sebagai rekan sejawat dengan kontrol versi, evaluasi, dan pembelajaran berkelanjutan sebagai inti. Ini memastikan manusia tetap sepenuhnya dalam lingkaran, dan lingkaran tersebut hanya berubah bentuk untuk menyesuaikan sejauh mana agen dan manusia berkoordinasi.

Gradient Labs telah memfokuskan pada agen spesialis yang dirancang untuk alur kerja layanan keuangan tertentu, bukan pada satu agen serba guna. Apakah Anda percaya masa depan AI perusahaan akan terutama terdiri dari jaringan agen‑agen khusus, atau model fondasi yang semakin canggih pada akhirnya akan membuat spesialisasi tersebut kurang penting?

Saya pikir bahkan ketika model dasar berkembang, spesialisasi tetap penting. Orang tidak akan membayar hanya untuk model yang cerdas, melainkan untuk evaluasi yang spesifik pada alur kerja, batasan, dan integrasi data yang dibangun di sekitarnya. Dan pekerjaan itu tidak menghilang hanya karena model yang mendasarinya menjadi lebih baik. Saya membayangkan ini sebagai jaringan agen‑agen spesialis yang semuanya dibangun di atas model dasar yang umum dan kuat, bukan satu agen serba guna yang melakukan segalanya.

Agen AI semakin perlu belajar dan meningkatkan diri setelah diterapkan, namun di lingkungan yang diatur, bahkan perubahan perilaku kecil dapat menimbulkan risiko baru. Bagaimana perusahaan dapat terus meningkatkan agen sambil memastikan pembaruan tidak menimbulkan regresi, masalah kepatuhan, atau perilaku tak terduga?

Prinsip yang kami terapkan adalah setiap pembaruan diperlakukan sebagai rilis model baru, bukan perubahan konfigurasi bertahap, sehingga setiap perubahan melewati rangkaian evaluasi lengkap sebelum dirilis. Itu mencakup tes regresi yang dijalankan terhadap preseden di mana kesalahan akan berdampak nyata, dan tidak ada yang langsung aktif untuk semua pelanggan sekaligus: kami meluncurkan secara bertahap dan memantau, sehingga jika terjadi drift kami dapat menanganinya pada segmen trafik terbatas, bukan pada skala penuh. Inilah inti dari rilis Collaborate terbaru kami. Collaborate memungkinkan operator, insinyur, dan agen AI bekerja bersama sebagai rekan sejawat pada definisi hidup yang sama tentang cara agen harus berpikir, dengan kontrol versi, evaluasi, dan pembelajaran berkelanjutan yang terintegrasi langsung ke alur kerja. Jadi ketika seseorang memperbaiki cara agen menangani sebuah kasus, perubahan tersebut diberi versi, diuji terhadap percakapan sebelumnya, dan diluncurkan dengan kontrol yang sama seperti rilis lainnya. Artinya agen dapat terus menjadi lebih baik setelah diterapkan tanpa peningkatan itu menjadi penyebab regresi atau masalah kepatuhan.

Melihat ke depan, seiring akses ke model fondasi yang kuat menjadi semakin menjadi komoditas, dari mana keunggulan kompetitif nyata dalam aplikasi AI akan berasal? Akankah pemenangnya adalah mereka yang memiliki model terbaik, atau mereka yang paling unggul dalam merancang sistem andal dan memberikan pengalaman konsisten yang baik di sekitarnya?

Sekarang semakin banyak model fondasi yang mulai konvergen, keunggulan akan beralih hampir sepenuhnya kepada siapa pun yang paling ahli dalam merancang sistem yang lebih dapat diandalkan di sekitar model‑model ini, termasuk evaluasi, batasan, data, dan desain alur kerja. Model menjadi input komoditas, tetapi konsistensi dan keandalan dalam produksilah yang menjadi produk sesungguhnya.

Bahkan lebih dari itu, saya melihat keunggulan lebih berasal dari seberapa dalam agen terintegrasi dalam operasi perusahaan. Agen yang mampu terbenam di banyak bagian operasi perusahaan akan mengungguli alat yang hanya dapat menangani masalah spesifik atau hanya menjangkau lini depan. Ketika agen dapat bekerja lintas sistem lini depan dan back‑office, ia dapat memberikan konteks lebih pada interaksi dan menangani masalah yang lebih kompleks secara menyeluruh, layaknya manusia. Kemampuan agen menyesuaikan diri dengan cara kerja perusahaan inilah yang saya perkirakan menjadi kemenangan jangka panjang.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mengetahui lebih lanjut sebaiknya mengunjungi Gradient Labs.