Jamie Twiss, CEO of Carrington Labs – Interview Series

Jamie Twiss adalah seorang banker berpengalaman dan ilmuwan data yang bekerja di persimpangan ilmu data, kecerdasan buatan, dan pemberian kredit konsumen. Saat ini, ia menjabat sebagai Chief Executive Officer di Carrington Labs, penyedia terkemuka solusi skoring risiko kredit dan pemberian kredit yang ditenagai oleh kecerdasan buatan yang dapat dijelaskan. Sebelumnya, ia menjabat sebagai Chief Data Officer di sebuah bank besar di Australia. Sebelum itu, ia bekerja dalam berbagai peran di sektor perbankan dan jasa keuangan setelah memulai karirnya sebagai konsultan dengan McKinsey & Company.

Apakah Anda dapat menjelaskan bagaimana sistem skoring risiko yang ditenagai oleh kecerdasan buatan Carrington Labs berbeda dari metode skoring kredit tradisional?

Pendekatan Carrington Labs untuk skoring risiko berbeda dari metode skoring kredit tradisional dalam beberapa hal:

Platform kami menggunakan dataset yang jauh lebih besar daripada metode sebelumnya. Skor kredit tradisional mengandalkan teknologi yang sudah ketinggalan zaman dan didasarkan pada jumlah informasi yang terbatas yang tersedia dalam berkas kredit pelanggan, sebagian besar riwayat pembayaran, yang hanya memberikan gambaran terbatas tentang individu, dan tidak memberikan gambaran sama sekali tentang banyak orang. Dengan persetujuan pelanggan, kami mengambil data transaksi bank yang terperinci dan menggunakannya untuk membuat gambaran yang jauh lebih rinci dan kaya tentang individu.

Kami kemudian menggunakan teknik kecerdasan buatan dan pembelajaran mesin modern untuk mengubah volume data yang besar ini menjadi pandangan yang tajam tentang kelayakan kredit individu, menghitung ratusan variabel individu dan menggabungkannya menjadi pandangan keseluruhan yang komprehensif. Skor yang dihasilkan sepenuhnya dapat dijelaskan dan transparan bagi pemberi pinjaman yang menggunakannya, tidak seperti skor kredit, yang merupakan kotak hitam yang misterius. Skor ini juga disesuaikan dengan produk dan segmen pelanggan tertentu pemberi pinjaman, yang membuatnya lebih relevan dan akurat daripada skor kredit, yang merupakan skor generik yang dilatih di seluruh kisaran produk dan pelanggan.

Akhirnya, platform kami tidak hanya dapat menilai risiko pelanggan lebih efektif daripada skor tradisional, tetapi juga dapat menggunakan skor itu untuk merekomendasikan syarat pemberian pinjaman yang optimal seperti batas dan durasi. Sebagai hasil dari semua faktor ini, skoring risiko CL merupakan kemajuan yang signifikan atas wawasan yang diberikan oleh metode tradisional kepada pemberi pinjaman.

Bagaimana kecerdasan buatan Anda mengintegrasikan data transaksi perbankan terbuka untuk memberikan gambaran yang lebih lengkap tentang kelayakan kredit pelanggan? Dan apa saja beberapa prediktor kunci yang model kecerdasan buatan Anda identifikasi saat menilai risiko kredit?

Model kami dapat dilatih pada berbagai jenis data, tetapi data transaksi bank biasanya merupakan inti. Kami menggunakan puluhan juta baris data transaksi untuk melatih model secara keseluruhan dan kemudian menggunakan ribuan transaksi untuk setiap pelanggan baru yang model skor. Perbankan Terbuka umumnya merupakan cara terbaik untuk mengumpulkan data ini, karena menyediakan format yang konsisten, keamanan yang baik, dan waktu respons yang cepat. Kami dapat mengumpulkannya melalui sarana lain, tetapi Perbankan Terbuka biasanya lebih disukai.

Misalnya, kami dapat menganalisis kebiasaan penarikan tunai untuk melihat apakah seseorang sering menarik jumlah yang besar, apakah mereka selalu menggunakan ATM yang sama, atau apakah mereka mengambil uang tunai beberapa kali sehari. Kami dapat mengidentifikasi aktivitas perjudian dengan mencari transaksi yang sering pada platform taruhan. Kami dapat melihat seberapa cepat seseorang menghabiskan uang setelah menerimanya, atau apakah mereka menyesuaikan pengeluaran mereka jika mereka mulai kehabisan uang. Kami juga mengidentifikasi pola keuangan yang tidak terduga yang dapat menunjukkan pikiran atau perilaku yang berisiko, seperti tiket kecepatan yang sering.

Model kami dilatih pada sekitar 50.000 variabel yang mungkin, dengan sekitar 400 yang secara aktif digunakan dalam model risiko yang khas. Pendekatan berbasis data ini membantu pemberi pinjaman membuat keputusan pemberian pinjaman yang lebih presisi dan menyesuaikan pinjaman dengan profil risiko unik setiap pelamar. Penting untuk dicatat bahwa data yang kami identifikasi dan analisis adalah anonim, sehingga kami tidak menangani informasi yang dapat diidentifikasi secara pribadi (PII).

Bagaimana Carrington Labs memastikan bahwa model kecerdasan buatan mereka bebas dari bias gender, etnis, atau sosio-ekonomi dalam keputusan pemberian pinjaman, dan apa langkah-langkah yang telah Anda ambil untuk memitigasi bias algoritma dalam penilaian risiko kredit?

Model Carrington Labs jauh lebih tidak mungkin memiliki bias daripada pendekatan tradisional karena objektivitasnya (tidak ada “perasaan” manusia yang terlibat) dan kisaran data yang luas yang kami gunakan untuk membuat model.

Kami memiliki tiga pilar dalam pendekatan anti-bias: Pertama, kami tidak pernah membiarkan data kelas yang dilindungi (ras, jenis kelamin, dll.) mendekati proses pembuatan model. Kami lebih suka jika Anda tidak memberikan kami data tersebut (kecuali jika Anda ingin kami menggunakannya untuk pengujian bias; lihat di bawah). Kedua, model kami sepenuhnya dapat dijelaskan, sehingga kami meninjau setiap fitur yang digunakan dalam setiap model untuk memungkinkan bias, variabel proxy, atau masalah lainnya. Pemberi pinjaman juga memiliki akses ke daftar fitur dan dapat melakukan tinjauan mereka sendiri. Ketiga, jika pemberi pinjaman memilih untuk memberikan kami data kelas yang dilindungi untuk pengujian (hanya; dijauhkan dari pelatihan), kami akan melakukan tes statistik pada output model untuk menentukan tingkat persetujuan dan batasan dan memastikan variasi di seluruh kelas didorong oleh faktor yang dapat dijelaskan dan masuk akal.

Sebagai hasilnya, kekuatan prediktif yang lebih tinggi dari model Carrington Labs dan kemampuan untuk menyesuaikan batasan berdasarkan risiko membuatnya jauh lebih mudah bagi pemberi pinjaman untuk menyetujui lebih banyak pelamar dengan batasan yang lebih kecil dan kemudian meningkatkan batasan tersebut seiring waktu dengan perilaku pembayaran yang baik, yang memungkinkan inklusi keuangan yang lebih luas.

Bagaimana Anda memastikan bahwa penilaian risiko kredit yang ditenagai oleh kecerdasan buatan dapat dijelaskan dan transparan bagi pemberi pinjaman dan regulator?

Sementara kami menggunakan kecerdasan buatan dalam beberapa langkah dalam proses pembuatan model, model itu sendiri, logika yang sebenarnya digunakan untuk menghitung skor pelanggan—didasarkan pada matematika dan statistik yang dapat diprediksi dan dikendalikan. Pemberi pinjaman atau regulator dapat meninjau setiap fitur dalam model untuk memastikan mereka nyaman dengan setiap satu, dan kami juga dapat menyediakan breakdown dari skor pelanggan dan memetakan kembali ke kode tindakan yang tidak menguntungkan jika diinginkan.

Bagaimana model kecerdasan buatan Anda membantu mendemokratisasi pemberian pinjaman dan memperluas inklusi keuangan bagi populasi yang kurang terlayani?

Banyak orang lebih layak kredit daripada yang ditunjukkan oleh skor kredit tradisional mereka. Metode skoring kredit warisan mengeluarkan jutaan orang yang tidak sesuai dengan model kredit tradisional. Pendekatan yang ditenagai oleh kecerdasan buatan kami membantu pemberi pinjaman mengenali peminjam ini, memperluas akses ke kredit yang adil dan bertanggung jawab tanpa meningkatkan risiko.

Untuk memberikan contoh seseorang yang termasuk dalam audiens yang kurang terlayani, pikirkan tentang seorang imigran yang baru saja pindah ke negara baru. Mereka mungkin secara finansial bertanggung jawab, bekerja keras, dan rajin, tetapi mereka mungkin juga kekurangan riwayat kredit tradisional. Karena biro kredit belum pernah mendengar tentang mereka, mereka kekurangan kemampuan untuk membuktikan bahwa orang ini layak kredit, yang pada gilirannya membuat pemberi pinjaman enggan untuk menawarkan mereka kesempatan pinjaman.

Poin data transaksi non-tradisional tersebut adalah kunci untuk membangun penilaian yang akurat tentang skor risiko kredit untuk orang-orang yang tidak dikenal oleh biro kredit. Mereka mungkin kekurangan riwayat kredit tradisional atau memiliki riwayat kredit yang mungkin tampak berisiko bagi pemberi pinjaman tanpa konteks yang tepat, tetapi kami memiliki kemampuan untuk menunjukkan kepada pemberi pinjaman bahwa orang-orang ini layak kredit dan stabil dengan menggunakan jumlah yang lebih besar dari data keuangan mereka. Bahkan, platform kami hingga 250% lebih akurat, berdasarkan set data anonim, dalam mengidentifikasi peminjam berisiko rendah dengan informasi kredit terbatas daripada skor kredit tradisional, dan itulah yang memungkinkan pemberi pinjaman untuk memperluas basis peminjam mereka dan pada akhirnya meningkatkan persetujuan pinjaman.

Selain itu, karena banyak pemberi pinjaman hanya memiliki gambaran yang kasar tentang risiko pelanggan individu, mereka berjuang untuk menyesuaikan penawaran dengan mencerminkan keadaan unik pelanggan, sering kali menawarkan mereka lebih dari yang mereka mampu, meminjamkan mereka lebih sedikit dari yang mereka butuhkan, atau (paling sering) menolak mereka sepenuhnya. Kemampuan untuk menetapkan batasan pemberian pinjaman dengan tepat memiliki efek yang sangat kuat dalam memungkinkan pemberi pinjaman untuk membawa peminjam baru ke dalam sistem keuangan, dari mana mereka dapat meningkatkan kapasitas peminjaman mereka dengan menunjukkan perilaku pembayaran yang baik—memberi mereka kesempatan pertama untuk menunjukkan bahwa mereka dapat bekerja secara bertanggung jawab dengan utang.

Apa peran yang dimainkan oleh badan pengatur dalam membentuk cara solusi pemberian pinjaman yang ditenagai oleh kecerdasan buatan dikembangkan dan diterapkan?

Pengatur adalah bagian penting dari mengintegrasikan kecerdasan buatan ke dalam layanan keuangan dan dalam perekonomian yang lebih luas. Batas yang jelas tentang di mana dan bagaimana kecerdasan buatan dapat digunakan akan memungkinkan pertumbuhan yang lebih cepat dan kasus penggunaan baru, dan kami mendukung berbagai proses yang sedang berlangsung untuk menciptakan akuntabilitas hukum dan regulasi.

Sebagai prinsip umum, kami percaya bahwa alat kecerdasan buatan yang digunakan dalam pemberian pinjaman harus tunduk pada jenis pengawasan dan skrutini yang sama seperti alat lainnya—mereka harus dapat menunjukkan bahwa mereka memperlakukan pelanggan dengan adil, dan bahwa mereka membuat sistem perbankan lebih aman, bukan lebih berisiko. Solusi kami dapat dengan jelas menunjukkan keduanya.

Apakah Anda dapat memberi tahu kami lebih lanjut tentang pemilihan Carrington Labs ke dalam Program Start Path Mastercard? Bagaimana ini akan mempercepat ekspansi AS Anda?

Kami senang bekerja dengan Mastercard dalam rencana ekspansi AS dan global kami. Mereka memiliki pengalaman yang tak tertandingi dalam menyampaikan solusi keuangan kepada bank dan pemberi pinjaman lain di seluruh dunia dan telah sangat membantu kami dalam meningkatkan keterlibatan kami dengan klien prospek AS. Kami berharap kedua belah pihak akan diuntungkan, dengan Mastercard menawarkan saran, pengenalan, dan mungkin elemen dari solusi kami, sementara Carrington Labs menyediakan layanan bernilai tinggi kepada klien Mastercard.

Beforepay, merek yang berfokus pada konsumen, telah mengeluarkan lebih dari 4 juta pinjaman. Apa saja wawasan yang Anda peroleh dari pengalaman ini, dan bagaimana mereka membentuk model kecerdasan buatan Carrington Labs?

Melalui pengalaman ini, kami belajar bagaimana membangun model dengan cepat dan efektif berkat akses Beforepay ke laboratorium R&D yang hebat dan volume data yang sangat besar. Jika kami memiliki ide untuk kerangka model, arsitektur, kode, dll., kami dapat mencobanya terlebih dahulu di Beforepay. Penurunan tingkat default Beforepay juga merupakan studi kasus yang hebat dalam menunjukkan seberapa baik model tersebut bekerja.

Ini telah menjadi pengalaman yang sangat memotivasi secara umum, karena karyawan kami memiliki saham besar dalam perusahaan. Kami menggunakan model Carrington Labs setiap hari untuk meminjamkan uang kami sendiri, sehingga ini memfokuskan pikiran kami untuk memastikan model tersebut bekerja!

Bagaimana Anda melihat kecerdasan buatan berkembang di ruang pemberian pinjaman selama dekade mendatang?

Pemberian pinjaman akan berubah secara besar-besaran begitu industri sepenuhnya beralih ke model risiko yang ditenagai oleh data besar seperti yang digunakan oleh Carrington Labs selama dekade mendatang. Dan itu akan—model tersebut jauh lebih efektif. Ini seperti peran listrik dalam manufaktur; ini adalah perubahan permainan dan semua orang akan membuat peralihan atau keluar.

Model data besar dapat dibangun dengan tangan (yang saya lakukan sebelumnya, tetapi proses ini memakan waktu berbulan-bulan atau bahkan tahun, serta sangat mahal dan tidak dapat memberikan hasil terbaik. Atau Anda dapat mengotomatisasi pembuatan model. Dengan kecerdasan buatan, Anda dapat mengotomatisasi lebih banyak dengan kualitas yang lebih tinggi, serta menyelamatkan waktu dan melakukan hal-hal yang mustahil jika Anda membangun dengan tangan, seperti menghasilkan ribuan fitur khusus untuk pemberi pinjaman berukuran sedang.

Kunci adalah mengetahui cara melakukannya dengan benar—jika Anda hanya melemparkan sejumlah besar hal ke LLM, Anda akan mendapatkan kekacauan besar dan menghabiskan anggaran Anda.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi Carrington Labs.