Bagaimana Explainable AI Meningkatkan Keandalan dan Kepercayaan

Seiring dengan perkembangan kecerdasan buatan (AI) yang semakin meluas di berbagai perusahaan, AI secara perlahan mulai terintegrasi ke dalam kehidupan sehari-hari kita. Salah satu aspek penting dari proses ini adalah kemampuan pengguna akhir untuk memahami proses dan mekanisme yang digunakan AI untuk mencapai suatu kesimpulan atau menghasilkan hasil yang diinginkan. Sebagai manusia, kita memiliki keinginan yang mendalam untuk mengetahui “mengapa” dan “bagaimana” dari setiap fenomena, yang telah mempercepat kemajuan teknologi kita. Dalam konteks AI, pemahaman ini disebut sebagai “explainability.”

Mengapa Explainability adalah kebutuhan saat ini?

Lebih sering daripada tidak, kita mendekati AI sebagai “black box”, di mana kita hanya mengetahui input dan output, tetapi proses yang digunakan tidak kita ketahui. Masalah ini diperparah oleh fakta bahwa algoritma yang memungkinkan sebagian besar bentuk AI, seperti sistem prediksi berbasis deep learning yang kompleks dan Pemrosesan Bahasa Alami (NLP), sangat abstrak bahkan bagi praktisi yang paling berpengalaman.

Kepercayaan dan Transparansi: Agar pengguna dapat mempercayai prediksi AI, AI harus memiliki tingkat explainability yang inheren. Misalnya, jika seorang dokter harus merekomendasikan pengobatan berdasarkan prediksi AI, ia perlu yakin dengan prediksi tersebut. Sebuah bank harus memiliki kepercayaan penuh dalam keputusan untuk menolak atau menyetujui pinjaman dan dapat membenarkan keputusan tersebut kepada semua pemangku kepentingan. AI yang digunakan untuk penyaringan dan perekrutan harus membuktikan bahwa mekanisme yang mendasarinya adil dan setara bagi semua kelompok calon.

Membuat AI lebih manusiawi dan meningkatkan adopsi: Dalam laporan The state of AI in 2020 dari Mckinsey, kita mengetahui bahwa sebuah produsen menggunakan model yang sangat transparan untuk diterima oleh pekerja pabrik, yang perlu mempercayai penilaian AI tentang keselamatan mereka. Untuk adopsi AI yang cepat, memperoleh persetujuan dari pemangku kepentingan adalah hambatan utama untuk penskalaan dari solusi titik sederhana ke tingkat perusahaan dan mendapatkan hasil maksimal dari investasi yang dilakukan. Hal ini sangat dibantu jika kinerja AI dapat dijelaskan kepada audiens yang lebih luas. Dari perspektif bisnis, explainability meningkatkan pengalaman pengguna secara keseluruhan dan meningkatkan kepuasan pelanggan. Menurut temuan survei IBM Institute for Business Value, 68 persen eksekutif top percaya bahwa pelanggan akan menuntut lebih banyak explainability dari AI dalam tiga tahun ke depan.

Mengungkap bias dan meningkatkan kinerja model: Seorang pengembang perlu tahu bagaimana ia dapat meningkatkan kinerja model dan bagaimana exactly untuk memperbaiki dan mengoptimalkan model tersebut. Kerangka explainability yang jelas adalah salah satu alat paling penting untuk melakukan analisis menyeluruh yang diperlukan.

Mendapatkan wawasan yang lebih tajam dan komprehensif: Pandangan 360 derajat yang lengkap diperlukan untuk memahami sepenuhnya setiap rekomendasi yang dibuat oleh AI. Misalnya, jika AI digunakan untuk membuat keputusan investasi, seseorang juga perlu mengetahui alasan di balik keputusan tersebut, sehingga dapat memindahkan pembelajaran ini ke area lain dan juga memahami potensi jebakan dari mengambil keputusan tersebut. Pemahaman yang kuat tentang bagaimana AI beroperasi juga akan memungkinkan pengambil keputusan untuk menemukan kasus penggunaan baru.

Regulasi dan Akuntabilitas: Beberapa regulasi seperti GDPR memerlukan hak untuk menjelaskan, untuk menangani masalah akuntabilitas yang timbul dari proses pengambilan keputusan otomatis. Dalam sistem seperti kendaraan otonom, jika sesuatu salah yang menyebabkan kehilangan nyawa dan harta, pengetahuan yang tepat diperlukan tentang penyebab akar, yang akan sulit untuk ditentukan dalam sistem “black box”.

Bagaimana AI dapat lebih explainable?

Sistem Kecerdasan Buatan yang Dapat Dijelaskan (XAI) dikembangkan menggunakan berbagai teknik yang fokus pada menjelaskan model secara keseluruhan atau menjelaskan alasan di balik prediksi individual melalui bantuan beberapa algoritma.

Sebagian besar teknik explainability bergantung pada:

• Menguraikan model menjadi komponen individual)
• Visualisasi prediksi model (misalnya, jika model mengklasifikasikan mobil sebagai merek tertentu, itu menyoroti bagian yang menyebabkannya diklasifikasikan sebagai merek tersebut)
• Pertambangan Penjelasan (menggunakan teknik pembelajaran mesin untuk menemukan data yang relevan yang menjelaskan prediksi algoritma kecerdasan buatan).

Dalam salah satu teknik yang disebut proxy modeling, model yang lebih sederhana dan lebih dapat dipahami seperti pohon keputusan digunakan untuk mewakili model AI yang lebih kompleks. Penjelasan yang sederhana ini memberikan gambaran yang adil tentang model pada tingkat tinggi, tetapi terkadang dapat menekan beberapa nuansa.

Approach lain yang disebut “interpretability by design” ini memasang batasan dalam desain dan pelatihan jaringan AI dengan cara baru, yang mencoba membangun jaringan secara keseluruhan dari potongan-potongan yang lebih kecil dan lebih dapat dijelaskan. Ini melibatkan perdagangan antara tingkat akurasi dengan explainability dan membatasi beberapa pendekatan dari toolkit ilmuwan data. Ini mungkin juga sangat intensif komputasi.

Pelatihan dan pengujian AI juga dapat menggunakan teknik verifikasi data agnostik seperti model lokal yang dapat diinterpretasikan (LIME) dan Shapley Additive exPlanations (SHAP), dan ini harus disesuaikan untuk mencapai akurasi tinggi dengan menggunakan F-score, presisi, dan metrik lainnya. Dan, tentu saja, semua hasil harus dipantau dan diverifikasi menggunakan berbagai data. Dengan menggunakan LIME, misalnya, organisasi dapat membuat model sementara yang meniru prediksi algoritma yang tidak transparan seperti pembelajaran mesin. Model LIME ini kemudian dapat membuat berbagai permutasi berdasarkan himpunan data tertentu dan outputnya yang sesuai, yang dapat digunakan untuk melatih model yang lebih sederhana dan lebih dapat diinterpretasikan bersama dengan daftar penjelasan lengkap untuk setiap keputusan dan/atau prediksi. Kerangka SHAP yang berbasis teori permainan dan khususnya teori permainan kooperatif adalah model yang menggabungkan alokasi kredit optimal dengan penjelasan lokal menggunakan nilai Shapley asli dari teori permainan dan turunannya.

Operasi yang Berprinsip

Pada tingkat strategis, bagaimanapun, kerangka keandalan AI harus mencakup serangkaian prinsip yang luas yang bertujuan untuk memastikan hasil yang tepat baik pada awal penerapan dan seiring waktu ketika model berkembang dalam menghadapi keadaan yang berubah. Pada minimum, kerangka ini harus mencakup hal-hal seperti:

• Deteksi Bias – semua himpunan data harus dibersihkan dari bias dan atribut diskriminatif dan kemudian diberi bobot dan diskresi yang tepat ketika diterapkan pada model pelatihan;
• Keterlibatan Manusia – operator harus dapat menyelidiki dan menafsirkan output algoritma pada semua waktu, terutama ketika model digunakan untuk penegakan hukum dan pelestarian kebebasan sipil;
• Justifikasi – semua prediksi harus dapat menahan pengawasan, yang secara alami memerlukan tingkat transparansi yang tinggi untuk memungkinkan pengamat luar untuk menilai proses dan kriteria yang digunakan untuk menghasilkan hasil;
• Reproduksi – model AI yang andal harus konsisten dalam prediksi mereka dan harus menunjukkan tingkat stabilitas yang tinggi ketika menghadapi data baru.

Tapi XAI tidak hanya harus dilihat sebagai sarana untuk meningkatkan profitabilitas, tetapi juga untuk membawa akuntabilitas untuk memastikan bahwa lembaga dapat menjelaskan dan membenarkan dampak ciptaan mereka pada masyarakat secara keseluruhan.