Keterjelasan: Frontir Berikutnya untuk Kecerdasan Buatan di Asuransi dan Perbankan

Oleh Dr. Ori Katz, Ilmuwan Penelitian Analitis, Earnix.

“Setiap teknologi yang cukup maju tidak dapat dibedakan dari sihir”, argumentasi penulis fiksi ilmiah Arthur C. Clarke. Memang, terkadang teknologi maju, seperti algoritma pembelajaran mesin baru, menyerupai sihir. Aplikasi evolusioner dari pembelajaran mesin, termasuk klasifikasi gambar, pengenalan suara, dan penggunaannya di industri asuransi dan perbankan memiliki sifat yang tampaknya lain dari dunia ini.

Banyak perusahaan enggan mengubah model analitis tradisional mereka – dan dengan alasan yang tepat. Sihir itu berbahaya, terutama jika tidak dipahami dengan baik. Jaringan saraf dan algoritma ensemble pohon adalah “kotak hitam”, struktur internalnya dapat sangat kompleks. Pada saat yang sama, beberapa studi [1] telah menunjukkan bagaimana jaringan saraf dan algoritma berbasis pohon dapat mengungguli bahkan model risiko asuransi tradisional yang paling hati-hati yang dibangun oleh aktuaris berpengalaman. Hal ini disebabkan oleh kemampuan algoritma baru untuk secara otomatis mengidentifikasi struktur tersembunyi dalam data. Misteri dan kegunaan jaringan saraf dan algoritma berbasis pohon berada dalam posisi yang berlawanan. Ada pertukaran yang inheren antara akurasi model analitis dan tingkat “keterjelasan”nya. Bagaimana kita bisa mempercayai model jika kita tidak bisa memahami bagaimana mereka mencapai kesimpulan mereka? Apakah kita harus menyerah pada sihir, mengorbankan kepercayaan kita dan kontrol atas sesuatu yang tidak kita pahami sepenuhnya untuk akurasi?

Manajer dan analis tidak hanya yang khawatir tentang pertukaran ini. Selama beberapa tahun terakhir, regulator telah mulai menyelidiki sisi gelap sihir untuk meningkatkan kemampuan mereka dalam memantau industri ini. Industri perbankan dan asuransi sangat diatur dalam banyak aspek dan tren regulasi saat ini melibatkan pengawasan lebih dekat terhadap model yang digunakan untuk membuat prediksi. Pasal 71 dari Peraturan Perlindungan Data Umum Eropa (GDPR), misalnya, menyatakan bahwa pelanggan harus memiliki hak untuk mendapatkan penjelasan tentang keputusan otomatis setelah keputusan itu dibuat. Sejak awal, elemen regulasi ini telah menjadi pusat debat akademis yang sangat kontroversial.

Kebutuhan mendesak untuk menjelaskan model analitis “kotak hitam” telah mengarah pada munculnya bidang penelitian baru: Kecerdasan Buatan yang Dapat Dijelaskan. Ahli sedang mengembangkan alat yang memungkinkan kita untuk melihat ke dalam kotak hitam dan mengungkap setidaknya sebagian dari sihir. Dua jenis alat yang telah dibuat oleh peneliti termasuk alat “Keterjelasan Global” yang dapat membantu kita memahami fitur kunci yang mendorong prediksi model secara keseluruhan, dan alat “Keterjelasan Lokal” yang dimaksudkan untuk menjelaskan prediksi tertentu.

Gambar berikut adalah contoh keterjelasan lokal. Ini didasarkan pada ide-ide ekonom Nobel Lloyd Shapley, yang mengembangkan metode teori permainan untuk menghitung kontribusi beberapa pemain yang bekerja sama dalam tugas yang sama. Dalam Kecerdasan Buatan yang Dapat Dijelaskan, “pemain” adalah fitur model, sedangkan “tugas” adalah prediksi model. Angka-angka yang menjelaskan kontribusi setiap fitur disebut “Nilai Shapley”. Peneliti baru-baru ini mengembangkan metode untuk estimasi cepat Nilai Shapley [2], yang memungkinkan kita untuk mendistribusikan prediksi secara adil di antara fitur yang berbeda.

Menggunakan Nilai Shapley untuk Menjelaskan Permintaan Perpanjangan yang Diprediksi dari Pelanggan Tertentu

Gambar, yang didasarkan pada data simulasi, menunjukkan hasil dari model permintaan yang memprediksi kemungkinan perpanjangan kebijakan asuransi mobil. Ini adalah penjelasan lokal untuk pelanggan tertentu. Model permintaan didasarkan pada ensemble pohon keputusan yang kompleks, tetapi gambar tersebut mempresentasikan kontribusi terpisah dari setiap fitur terhadap prediksi akhir. Dalam contoh ini, model memprediksi bahwa individu rata-rata dalam data akan memperbarui kebijakan dengan kemungkinan 0,64. Namun, untuk pelanggan tertentu ini, kemungkinan prediksi jauh lebih tinggi, yaitu 0,72. Gambar tersebut memungkinkan Anda untuk melihat penyebab perbedaan ini.

Sementara kita tidak bisa memahami sepenuhnya struktur internal model kompleks ini, Nilai Shapley memungkinkan kita untuk melihat fitur mana yang paling penting untuk prediksi tertentu, mengungkap sebagian dari sihir. Menghitung rata-rata Nilai Shapley individu atas populasi memungkinkan kita untuk melihat fitur mana yang paling penting dan mendapatkan keterjelasan global dari model. Alat keterjelasan populer lainnya termasuk “Permutasi Fitur Penting”, model surrogat sederhana yang dipasang secara lokal, dan contoh kontrafaktual, untuk menyebutkan beberapa [3].

Alat keterjelasan baru ini adalah langkah berikutnya yang diperlukan dalam evolusi pembelajaran mesin. Mereka dapat memungkinkan perusahaan asuransi dan bank untuk memahami dan mempercayai model pembelajaran mesin mereka, mematuhi regulasi baru, dan memberikan pelanggan mereka dengan informasi yang berharga. Kita sekarang dapat sebagian mengatasi pertukaran antara akurasi dan keterjelasan dan menikmati kelebihan model pembelajaran mesin baru dengan lebih sedikit kekhawatiran tentang sifat “kotak hitam” mereka.

Dalam dunia yang cepat-digitalkan, menjadi sepenuhnya didorong oleh analitik adalah kriteria dasar untuk kelangsungan hidup bagi perusahaan asuransi dan bank. Kemampuan ini selalu penting – tetapi menjadi vital dengan kondisi pasar yang volatil yang dibawa oleh tahun 2020. Perusahaan asuransi dan bank memerlukan analitik yang lebih cerdas untuk memodelkan realitas baru yang kompleks yang dapat mereka gunakan sebagai dasar untuk keputusan bisnis dan melayani pelanggan mereka dengan lebih cepat dan lebih baik. Alat keterjelasan dapat memungkinkan perusahaan asuransi dan bank untuk mencapai itu. Dengan waktu, kita akan mencapai titik di mana model pembelajaran mesin tidak lagi dianggap sebagai sihir, tetapi sebagai alat esensial dalam arsenals inti dari setiap bisnis yang didorong oleh data.

Sumber:

[1] Bärtl, M., & Krummaker, S. (2020). Prediksi klaim dalam keuangan ekspor kredit: Perbandingan empat teknik pembelajaran mesin. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Studi kasus: Klaim tanggung jawab pihak ketiga mobil Prancis. Tersedia di SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Akurasi XGBoost untuk prediksi klaim asuransi. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Studi perbandingan algoritma penambangan data dalam prediksi klaim asuransi mobil. Jurnal Ilmiah Eropa untuk Sains dan Teknologi, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). Pendekatan terpadu untuk menafsirkan prediksi model. Dalam Advances in neural information processing systems (pp. 4765-4774).

[3] Lihat di sini untuk detail lebih lanjut: https://christophm.github.io/interpretable-ml-book/index.html