Memperkenalkan Tingkat Transparansi Baru dengan AI – Pemimpin Pemikiran

Oleh Balakrishna D R, Wakil Presiden, Kepala Penawaran Layanan – Energi, Komunikasi, Layanan, dan Layanan AI dan Otomatisasi, di Infosys.

Pada tanggal 9 Januari 2020, Organisasi Kesehatan Dunia memperingatkan publik tentang wabah Coronavirus di Cina. Tiga hari sebelumnya, Pusat Pengendalian dan Pencegahan Penyakit AS telah menyebarkan berita tersebut. Namun, sebuah platform pemantau kesehatan Kanada telah mengalahkan mereka berdua, mengirimkan peringatan tentang wabah tersebut kepada pelanggannya pada tanggal 31 Desember 2019! Platform tersebut, BlueDot menggunakan algoritma yang didorong oleh kecerdasan buatan yang mencari laporan berita bahasa asing, jaringan penyakit hewan dan tanaman, dan pengumuman resmi untuk memberikan peringatan dini kepada klien tentang zona bahaya seperti Wuhan.

Beberapa tahun terakhir, kecerdasan buatan telah menjadi sumber transformasi, gangguan, dan keunggulan kompetitif dalam perekonomian yang berubah cepat saat ini. Dari pelacakan wabah hingga pertahanan hingga perawatan kesehatan hingga kendaraan otonom dan semua yang ada di antaranya, AI semakin banyak digunakan. PwC memprediksi bahwa AI dapat memberikan kontribusi hingga $15,7 triliun untuk perekonomian global pada tahun 2030, pada tingkat pertumbuhan saat ini.

Namun, di balik semua harapan yang dibawa oleh AI, masih ada pertanyaan yang belum terjawab tentang transparansi dan kepercayaan. Kebutuhan untuk memahami, memprediksi, dan mempercayai kemampuan pengambilan keputusan sistem AI sangat penting, terutama di bidang yang kritis bagi kehidupan, kematian, dan kesejahteraan pribadi.

Ke dalam yang tidak diketahui

Ketika sistem penalaran otomatis pertama kali diperkenalkan untuk mendukung pengambilan keputusan, mereka bergantung pada aturan yang dibuat oleh manusia. Sementara ini membuatnya mudah untuk ditafsirkan serta memodifikasi perilaku mereka, mereka tidak dapat diskalakan. Model berbasis pembelajaran mesin tiba untuk memenuhi kebutuhan tersebut; mereka tidak memerlukan intervensi manusia dan dapat dilatih dari data – semakin banyak semakin baik. Sementara model pembelajaran dalam sangat unggul dalam kapasitas pemodelan dan cakupan kegunaannya, kenyataan bahwa model-model ini sebagian besar merupakan kotak hitam, menimbulkan pertanyaan yang mengganggu tentang kebenaran, kepercayaan, dan bias mereka dalam konteks penggunaan yang luas.

Saat ini tidak ada mekanisme langsung untuk melacak penalaran yang digunakan oleh model pembelajaran dalam. Dengan model pembelajaran mesin yang memiliki sifat kotak hitam, jenis penjelasan yang utama dikenal sebagai penjelasan post-hoc, yang berarti bahwa penjelasan diperoleh dari sifat dan properti keluaran yang dihasilkan oleh model. Upaya awal untuk mengekstrak aturan dari jaringan saraf (sebelumnya dikenal sebagai pembelajaran dalam) tidak lagi dilakukan karena jaringan telah menjadi terlalu besar dan beragam untuk ekstraksi aturan yang dapat dijalankan. Oleh karena itu, ada kebutuhan mendesak untuk memperkenalkan interpretasi dan transparansi ke dalam struktur pemodelan AI.

Keluar malam, masuk cahaya

Keconcernan ini telah menciptakan kebutuhan akan transparansi dalam pembelajaran mesin, yang telah mengarah pada pertumbuhan kecerdasan buatan yang dapat dijelaskan, atau XAI. Ini bertujuan untuk mengatasi masalah utama yang menghambat kemampuan kita untuk sepenuhnya mempercayai pengambilan keputusan AI — termasuk bias dan transparansi. Bidang AI baru ini membawa akuntabilitas untuk memastikan bahwa AI memberikan manfaat bagi masyarakat dengan hasil yang lebih baik bagi semua pihak yang terlibat.

XAI akan sangat penting dalam membantu mengatasi bias yang melekat pada sistem dan algoritma AI, yang diprogram oleh orang-orang yang latar belakang dan pengalaman mereka tidak sengaja mengarah pada pengembangan sistem AI yang menunjukkan bias. Bias yang tidak diinginkan seperti diskriminasi terhadap kebangsaan atau etnis tertentu dapat meresap karena sistem menambahkan nilai berdasarkan data nyata. Sebagai contoh, mungkin ditemukan bahwa pelanggar default kredit biasanya berasal dari latar belakang etnis tertentu, namun menerapkan kebijakan restriktif berdasarkan hal ini mungkin melanggar praktik yang adil. Data yang salah juga dapat menyebabkan bias. Sebagai contoh, jika pemindai pengenalan wajah tertentu tidak akurat 5% karena warna kulit atau cahaya yang jatuh pada wajah, hal ini dapat membawa bias. Terakhir, jika sampel data Anda tidak merupakan representasi yang sebenarnya dari seluruh populasi, bias tidak dapat dihindari.

XAI bertujuan untuk mengatasi bagaimana keputusan kotak hitam sistem AI diambil. Ini memeriksa dan mencoba memahami langkah-langkah dan model yang terlibat dalam pengambilan keputusan. Ini menjawab pertanyaan penting seperti: Mengapa sistem AI membuat prediksi atau keputusan tertentu? Mengapa sistem AI tidak melakukan sesuatu yang lain? Kapan sistem AI berhasil atau gagal? Kapan sistem AI memberikan kepercayaan yang cukup dalam keputusan sehingga Anda dapat mempercayainya, dan bagaimana sistem AI dapat memperbaiki kesalahan?

AI yang dapat dijelaskan, diprediksi, dan dilacak

Satu cara untuk mendapatkan penjelasan dalam sistem AI adalah dengan menggunakan algoritma pembelajaran mesin yang secara inheren dapat dijelaskan. Sebagai contoh, bentuk pembelajaran mesin yang lebih sederhana seperti pohon keputusan, klasifikasi Bayesian, dan algoritma lain yang memiliki sejumlah kemampuan pelacakan dan transparansi dalam pengambilan keputusan. Mereka dapat memberikan visibilitas yang dibutuhkan untuk sistem AI kritis tanpa mengorbankan kinerja atau akurasi yang terlalu banyak.

Memperhatikan kebutuhan untuk memberikan penjelasan untuk pembelajaran dalam dan pendekatan algoritma yang lebih kompleks, Badan Penelitian dan Pengembangan Pertahanan Lanjutan AS (DARPA) sedang melakukan upaya untuk menghasilkan solusi AI yang dapat dijelaskan melalui sejumlah inisiatif penelitian yang didanai. DARPA menjelaskan penjelasan AI dalam tiga bagian yang mencakup: akurasi prediksi, yang berarti model akan menjelaskan bagaimana kesimpulan diperoleh untuk memperbaiki pengambilan keputusan di masa depan; pemahaman keputusan dan kepercayaan dari pengguna dan operator manusia, serta inspeksi dan pelacakan tindakan yang diambil oleh sistem AI.

Pelacakan akan memberdayakan manusia untuk masuk ke dalam loop keputusan AI dan memiliki kemampuan untuk menghentikan atau mengontrol tugasnya, kapan pun diperlukan. Sistem AI tidak hanya diharapkan untuk melakukan tugas tertentu atau mengambil keputusan, tetapi juga memberikan laporan yang transparan tentang mengapa keputusan tertentu diambil dengan alasan yang mendukung.

Standarisasi algoritma atau bahkan pendekatan XAI tidak mungkin dilakukan saat ini, tetapi mungkin saja untuk menstandarkan tingkat transparansi / tingkat penjelasan. Organisasi standar mencoba mencapai pemahaman umum tentang tingkat transparansi ini untuk memfasilitasi komunikasi antara pengguna akhir dan vendor teknologi.

Ketika pemerintah, lembaga, perusahaan, dan masyarakat umum semakin bergantung pada sistem berbasis AI, memenangkan kepercayaan mereka melalui transparansi yang lebih jelas dalam proses pengambilan keputusan akan menjadi sangat penting. Peluncuran konferensi global pertama yang secara khusus didedikasikan untuk XAI, Konferensi Bersama Internasional tentang Kecerdasan Buatan: Workshop tentang Kecerdasan Buatan yang Dapat Dijelaskan, adalah bukti lebih lanjut bahwa era XAI telah tiba.