Kecerdasan Buatan yang Dapat Dijelaskan Menggunakan Rumus Boolean Ekspressif

Ledakan dalam aplikasi kecerdasan buatan (AI) dan pembelajaran mesin sedang merambah hampir setiap industri dan aspek kehidupan.

Namun, pertumbuhan ini tidak datang tanpa ironi. Sementara AI ada untuk menyederhanakan dan/atau mempercepat pengambilan keputusan atau alur kerja, metode untuk melakukan hal tersebut seringkali sangat kompleks. Memang, beberapa algoritma pembelajaran mesin “black box” sangat rumit dan multifaset sehingga dapat menentang penjelasan sederhana, bahkan oleh ilmuwan komputer yang menciptakannya.

Hal ini dapat menjadi sangat bermasalah ketika kasus penggunaan tertentu – seperti dalam bidang keuangan dan kedokteran – didefinisikan oleh praktik terbaik industri atau peraturan pemerintah yang memerlukan penjelasan transparan tentang cara kerja solusi AI. Dan jika aplikasi ini tidak ekspresif enough untuk memenuhi persyaratan kecerdasan buatan yang dapat dijelaskan, mereka mungkin menjadi tidak berguna terlepas dari efektivitas keseluruhan.

Untuk mengatasi dilema ini, tim kami di Fidelity Center for Applied Technology (FCAT) — bekerja sama dengan Amazon Quantum Solutions Lab — telah mengusulkan dan menerapkan model pembelajaran mesin yang dapat dijelaskan untuk Kecerdasan Buatan yang Dapat Dijelaskan (XAI) berdasarkan rumus Boolean ekspressif. Pendekatan seperti ini dapat mencakup operator apa pun yang dapat diterapkan pada satu atau lebih variabel Boolean, sehingga menyediakan ekspresivitas yang lebih tinggi dibandingkan dengan pendekatan berbasis aturan dan berbasis pohon yang lebih kaku.

Anda dapat membaca paper lengkap di sini untuk mendapatkan detail komprehensif tentang proyek ini.

Hipotesis kami adalah bahwa karena model – seperti pohon keputusan – dapat menjadi dalam dan sulit diinterpretasikan, kebutuhan untuk menemukan aturan ekspresif dengan kompleksitas rendah tetapi akurasi tinggi adalah masalah optimisasi yang tidak dapat dipecahkan. Selain itu, dengan menyederhanakan model melalui pendekatan XAI canggih ini, kami dapat mencapai manfaat tambahan, seperti mengungkap bias yang penting dalam konteks penggunaan etis dan bertanggung jawab dari ML; sementara juga membuatnya lebih mudah untuk memelihara dan meningkatkan model.

Kami mengusulkan pendekatan berdasarkan rumus Boolean ekspressif karena mereka mendefinisikan aturan dengan kompleksitas (atau interpretabilitas) yang dapat disesuaikan sesuai dengan data input yang sedang diklasifikasikan. Rumus seperti itu dapat mencakup operator apa pun yang dapat diterapkan pada satu atau lebih variabel Boolean (seperti And atau AtLeast), sehingga menyediakan ekspresivitas yang lebih tinggi dibandingkan dengan metode berbasis aturan dan berbasis pohon yang lebih kaku.

Dalam masalah ini, kita memiliki dua tujuan yang bersaing: memaksimalkan kinerja algoritma, sementara meminimalkan kompleksitasnya. Oleh karena itu, daripada mengambil pendekatan yang biasa dengan menerapkan salah satu dari dua metode optimisasi – menggabungkan beberapa tujuan menjadi satu atau membatasi salah satu tujuan – kami memilih untuk memasukkan keduanya dalam formulasi kami. Dengan melakukan hal ini, dan tanpa kehilangan keumuman, kami terutama menggunakan akurasi seimbang sebagai metric kinerja utama kami.

Juga, dengan memasukkan operator seperti AtLeast, kami termotivasi oleh gagasan untuk mengatasi kebutuhan akan daftar periksa yang sangat dapat diinterpretasikan, seperti daftar gejala medis yang menunjukkan suatu kondisi tertentu. Hal ini dapat dipahami bahwa keputusan akan dibuat dengan menggunakan daftar periksa gejala tersebut dengan cara yang memerlukan jumlah minimum untuk diagnosis positif. Serupa, dalam keuangan, bank mungkin memutuskan untuk memberikan kredit kepada pelanggan berdasarkan kehadiran sejumlah faktor dari daftar yang lebih besar.

Kami berhasil menerapkan model XAI kami dan membandingkannya dengan beberapa dataset publik untuk kredit, perilaku pelanggan, dan kondisi medis. Kami menemukan bahwa model kami secara umum kompetitif dengan alternatif lain yang terkenal. Kami juga menemukan bahwa model XAI kami dapat ditenagai oleh perangkat keras khusus atau perangkat kuantum untuk memecahkan Integer Linear Programming (ILP) atau Quadratic Unconstrained Binary Optimization (QUBO) dengan cepat. Penambahan solver QUBO mengurangi jumlah iterasi – sehingga mengarah pada percepatan dengan proposal gerakan non-lokal yang cepat.

Seperti yang disebutkan, model kecerdasan buatan yang dapat dijelaskan menggunakan rumus Boolean dapat memiliki banyak aplikasi dalam perawatan kesehatan dan bidang keuangan Fidelity (seperti skor kredit atau menilai mengapa beberapa pelanggan memilih produk tertentu sementara yang lain tidak). Dengan menciptakan aturan yang dapat diinterpretasikan, kami dapat mencapai tingkat wawasan yang lebih tinggi yang dapat mengarah pada perbaikan produk di masa depan atau penyempurnaan, serta mengoptimalkan kampanye pemasaran.

Berdasarkan temuan kami, kami telah menentukan bahwa Kecerdasan Buatan yang Dapat Dijelaskan menggunakan rumus Boolean ekspressif adalah sesuai dan diinginkan untuk kasus penggunaan yang memerlukan penjelasan lebih lanjut. Plus, karena komputasi kuantum terus berkembang, kami memprediksi kesempatan untuk memperoleh percepatan potensial dengan menggunakan komputasi kuantum dan perangkat keras akselerator khusus lainnya.

Pekerjaan masa depan mungkin berfokus pada menerapkan klasifikasi ini ke dataset lain, memperkenalkan operator baru, atau menerapkan konsep ini ke kasus penggunaan lain.