Google Membuat Program AI yang Dapat Dijelaskan untuk Meningkatkan Transparansi dan Debugability

Baru-baru ini, Google (GOOGL ) mengumumkan pembuatan platform cloud baru yang dimaksudkan untuk memberikan wawasan tentang bagaimana program AI membuat keputusan, membuat debugging program lebih mudah dan meningkatkan transparansi. Seperti yang dilaporkan oleh The Register, platform cloud ini disebut Explainable AI, dan ini menandai upaya besar oleh Google untuk berinvestasi dalam kejelasan AI.

Jaringan neural buatan digunakan dalam banyak, mungkin sebagian besar, sistem AI utama yang digunakan di dunia saat ini. Jaringan neural yang menjalankan aplikasi AI utama dapat sangat kompleks dan besar, dan ketika kompleksitas sistem meningkat, menjadi semakin sulit untuk memahami mengapa keputusan tertentu telah dibuat oleh sistem. Seperti yang dijelaskan oleh Google dalam makalah putih mereka, ketika sistem AI menjadi lebih kuat, mereka juga menjadi lebih kompleks dan lebih sulit untuk didebug. Transparansi juga hilang ketika ini terjadi, yang berarti bahwa algoritma bias dapat sulit dikenali dan diatasi.

Fakta bahwa alasan yang mendorong perilaku sistem kompleks sangat sulit diinterpretasikan sering memiliki konsekuensi yang drastis. Selain membuatnya sulit untuk melawan bias AI, ini dapat membuatnya sangat sulit untuk membedakan korelasi yang tidak sah dari korelasi yang benar-benar penting dan menarik.

Banyak perusahaan dan kelompok penelitian sedang menjelajahi bagaimana untuk menangani masalah “black box” AI dan membuat sistem yang cukup menjelaskan mengapa keputusan tertentu telah dibuat oleh AI. Platform Explainable AI Google mewakili upaya mereka sendiri untuk menangani tantangan ini. Explainable AI terdiri dari tiga alat yang berbeda. Alat pertama adalah sistem yang menjelaskan fitur mana yang telah dipilih oleh AI dan juga menampilkan skor atribut yang mewakili seberapa besar pengaruh yang fitur tertentu memiliki pada prediksi akhir. Laporan Google tentang alat ini memberikan contoh memprediksi berapa lama waktu bersepeda akan berlangsung berdasarkan variabel seperti curah hujan, suhu saat ini, hari dalam seminggu, dan waktu mulai. Setelah jaringan membuat keputusan, umpan balik diberikan yang menampilkan fitur mana yang memiliki dampak terbesar pada prediksi.

Bagaimana alat ini memberikan umpan balik seperti itu dalam kasus data gambar? Dalam kasus ini, alat ini menghasilkan overlay yang menyoroti wilayah gambar yang memiliki bobot terberat pada keputusan yang dihasilkan.

Alat lain yang ditemukan dalam toolkit adalah alat “What-If”, yang menampilkan fluktuasi potensial dalam kinerja model ketika atribut individu dimanipulasi. Terakhir, alat terakhir dapat diatur untuk memberikan hasil sampel kepada pengulas manusia pada jadwal yang konsisten.

Dr. Andrew Moore, ilmuwan utama Google untuk AI dan pembelajaran mesin, menjelaskan inspirasi untuk proyek ini. Moore menjelaskan bahwa sekitar lima tahun yang lalu, komunitas akademis mulai khawatir tentang produk sampingan berbahaya dari penggunaan AI dan bahwa Google ingin memastikan sistem mereka hanya digunakan dengan cara yang etis. Moore menjelaskan insiden di mana perusahaan tersebut mencoba merancang program visi komputer untuk memperingatkan pekerja konstruksi jika seseorang tidak mengenakan helm, tetapi mereka khawatir bahwa pemantauan dapat diambil terlalu jauh dan menjadi tidak manusiawi. Moore mengatakan bahwa ada alasan serupa bahwa Google memutuskan untuk tidak merilis API pengenalan wajah umum, karena perusahaan ingin memiliki kontrol lebih besar atas bagaimana teknologi mereka digunakan dan memastikan bahwa hanya digunakan dengan cara yang etis.

Moore juga menyoroti mengapa sangat penting bagi keputusan AI untuk dapat dijelaskan:

“Jika Anda memiliki sistem kritis keselamatan atau hal yang penting secara sosial yang mungkin memiliki konsekuensi yang tidak diinginkan jika Anda berpikir model Anda telah membuat kesalahan, Anda harus dapat mendiagnosanya. Kami ingin menjelaskan dengan hati-hati apa yang dapat dan tidak dapat dilakukan oleh kejelasan. Ini bukanlah obat ajaib.