Peneliti Mengembangkan Alat “DeepTrust” untuk Meningkatkan Kepercayaan AI

Keamanan dan kepercayaan diri artificial intelligence (AI) adalah salah satu aspek terbesar dari teknologi ini. Ini terus ditingkatkan dan dikerjakan oleh para ahli terbaik dalam berbagai bidang, dan ini akan sangat penting untuk implementasi penuh AI di seluruh masyarakat.

Beberapa pekerjaan baru ini berasal dari University of Southern California, di mana peneliti USC Viterbi Engineering telah mengembangkan alat baru yang dapat menghasilkan indikator otomatis untuk menentukan apakah algoritma AI dapat dipercaya dalam data dan prediksi mereka.

Penelitian ini dipublikasikan di Frontiers in Artificial Intelligence, dengan judul “There is Hope After All: Quantifying Opinion and Trustworthiness in Neural Networks”. Penulis paper ini termasuk Mingxi Cheng, Shahin Nazarian, dan Paul Bogdan dari USC Cyber Physical Systems Group.

Kepercayaan Diri Jaringan Saraf

Salah satu tugas terbesar di area ini adalah membuat jaringan saraf menghasilkan prediksi yang dapat dipercaya. Dalam banyak kasus, ini adalah yang menghambat adopsi teknologi yang bergantung pada AI.

Misalnya, kendaraan self-driving memerlukan untuk bertindak secara independen dan membuat keputusan yang akurat secara otomatis. Mereka perlu dapat membuat keputusan ini dengan sangat cepat, sambil menerjemahkan dan mengenali objek di jalan. Ini sangat penting, terutama dalam skenario di mana teknologi harus membedakan antara bump kecepatan, objek lain, atau makhluk hidup.

Skenario lain termasuk kendaraan self-driving yang memutuskan apa yang harus dilakukan ketika kendaraan lain menghadapinya secara langsung, dan keputusan paling kompleks adalah jika kendaraan self-driving harus memutuskan antara mengenai apa yang dipersepsikan sebagai kendaraan lain, objek, atau makhluk hidup.

Ini semua berarti kita meletakkan kepercayaan yang sangat besar pada kemampuan perangkat lunak kendaraan self-driving untuk membuat keputusan yang benar dalam sekian detik. Ini menjadi lebih sulit ketika ada informasi yang bertentangan dari sensor yang berbeda, seperti penglihatan komputer dari kamera dan Lidar.

Penulis utama Minxi Cheng memutuskan untuk mengambil proyek ini setelah berpikir, “Bahkan manusia dapat tidak pasti dalam skenario pengambilan keputusan tertentu. Dalam kasus yang melibatkan informasi yang bertentangan, mengapa mesin tidak bisa memberitahu kita ketika mereka tidak tahu?”

DeepTrust

Alat yang dibuat oleh peneliti ini disebut DeepTrust, dan dapat mengukur jumlah ketidakpastian, menurut Paul Bogdan, profesor asosiasi di Departemen Teknik Elektro dan Komputer Ming Hsieh.

Tim ini menghabiskan hampir dua tahun mengembangkan DeepTrust, terutama menggunakan logika subyektif untuk menilai jaringan saraf. Dalam satu contoh alat ini bekerja, dapat melihat survei pemilu presiden 2016 dan memprediksi bahwa ada margin kesalahan yang lebih besar untuk Hillary Clinton memenangkan.

Alat DeepTrust juga membuatnya lebih mudah untuk menguji keandalan algoritma AI yang biasanya dilatih pada hingga jutaan titik data. Cara lain untuk melakukan ini adalah dengan memeriksa setiap titik data secara independen untuk menguji akurasi, yang merupakan tugas yang sangat memakan waktu.

Menurut peneliti, arsitektur sistem jaringan saraf ini lebih akurat, dan akurasi serta kepercayaan dapat dimaksimalkan secara bersamaan.

“Menurut pengetahuan kami, tidak ada model atau alat kuantifikasi kepercayaan untuk deep learning, kecerdasan buatan, dan pembelajaran mesin. Ini adalah pendekatan pertama dan membuka arah penelitian baru,” kata Bogdan.

Bogdan juga percaya bahwa DeepTrust dapat membantu mendorong AI maju ke titik di mana itu “sadar dan adaptif”.