Tim Peneliti MIT Merancang Jaringan AI untuk Melawan Contoh Adversarial

Sebuah tim peneliti dari MIT telah mengembangkan algoritma pembelajaran dalam yang dimaksudkan untuk membantu AI mengatasi “contoh adversarial”, yang dapat menyebabkan AI membuat prediksi yang salah dan melakukan tindakan yang salah. Algoritma yang dirancang oleh tim MIT dapat membantu sistem AI mempertahankan akurasi dan menghindari kesalahan ketika dihadapkan pada data yang membingungkan.

Sistem AI menganalisis fitur input dari sebuah peristiwa untuk memutuskan bagaimana merespons peristiwa tersebut. Sebuah AI yang bertanggung jawab untuk mengendalikan kendaraan otonom harus mengambil data dari kamera kendaraan dan memutuskan apa yang harus dilakukan berdasarkan data yang terkandung dalam gambar tersebut. Namun, ada kemungkinan bahwa data gambar yang dianalisis oleh AI tidak merupakan representasi yang akurat dari dunia nyata. Sebuah kesalahan dalam sistem kamera dapat mengubah beberapa piksel, menyebabkan AI mengambil kesimpulan yang salah tentang tindakan yang tepat.

“Input adversarial” seperti ilusi optik untuk sistem AI. Mereka adalah input yang membingungkan AI dalam beberapa bentuk. Input adversarial dapat dibuat dengan tujuan untuk menyebabkan AI membuat kesalahan, dengan merepresentasikan data dalam cara yang membuat AI percaya bahwa isi contoh adalah satu hal bukan yang lain. Misalnya, memungkinkan untuk membuat contoh adversarial untuk sistem visi komputer dengan membuat perubahan kecil pada gambar kucing, menyebabkan AI mengklasifikasikan gambar sebagai monitor komputer. Tim peneliti MIT merancang algoritma untuk membantu melindungi terhadap contoh adversarial dengan membiarkan model mempertahankan tingkat “keraguan” tentang input yang diterima.

Peneliti MIT menyebut pendekatan mereka “Certified Adversarial Robustness for Deep Reinforcement Learning,” atau CARRL. CARRL terdiri dari jaringan pembelajaran penguatan dan jaringan saraf dalam tradisional yang digabungkan. Pembelajaran penguatan menggunakan konsep “penghargaan” untuk melatih model, memberikan model penghargaan yang lebih besar ketika mendekati tujuan. Model pembelajaran penguatan digunakan untuk melatih Deep Q-Netowrkk, atau DQN. DQNs berfungsi seperti jaringan saraf tradisional, tetapi juga mengasosiasikan nilai input dengan tingkat penghargaan, seperti sistem pembelajaran penguatan.

CARRL beroperasi dengan memodelkan berbagai nilai input data yang mungkin.

Menganggap bahwa AI mencoba melacak posisi sebuah titik dalam gambar yang lebih besar, AI mempertimbangkan bahwa posisi titik dapat dipengaruhi oleh pengaruh adversarial dan mempertimbangkan wilayah di mana titik dapat berada. Jaringan kemudian membuat keputusan berdasarkan skenario terburuk untuk posisi titik, menetapkan tindakan yang akan menghasilkan penghargaan tertinggi dalam skenario terburuk.

Metode umum untuk melindungi terhadap contoh adversarial melibatkan menjalankan versi input gambar yang sedikit diubah melalui jaringan AI untuk melihat apakah keputusan yang sama selalu dibuat. Jika perubahan pada gambar tidak secara signifikan mempengaruhi hasil, maka ada kemungkinan bahwa jaringan tahan terhadap contoh adversarial. Namun, ini bukan strategi yang layak untuk skenario di mana keputusan cepat perlu dibuat, karena metode ini memerlukan waktu dan biaya komputasi yang besar. Oleh karena itu, tim MIT berusaha untuk membuat jaringan saraf yang dapat membuat keputusan berdasarkan asumsi terburuk, yang dapat beroperasi dalam skenario di mana keselamatan sangat penting.

Peneliti MIT menguji algoritma mereka dengan membuat AI bermain permainan Pong. Mereka memasukkan contoh adversarial dengan memberikan AI contoh di mana bola ditampilkan sedikit lebih jauh ke bawah layar daripada sebenarnya. Ketika pengaruh contoh adversarial meningkat, teknik korektif standar mulai gagal, sedangkan CARRL dapat memenangkan lebih banyak permainan dibandingkan. CARRL juga diuji pada tugas menghindari tabrakan. Tugas tersebut berlangsung dalam lingkungan virtual di mana dua agen berusaha untuk bertukar posisi tanpa menabrak satu sama lain. Tim peneliti mengubah persepsi agen pertama tentang agen kedua dan CARRL dapat berhasil mengarahkan agen pertama mengelilingi agen kedua, bahkan dalam kondisi ketidakpastian tinggi, meskipun ada titik di mana CARRL menjadi terlalu hati-hati dan menghindari tujuan secara keseluruhan.

Terlepas dari itu, Michael Everett, seorang postdoc di Departemen Aeronautika dan Astronautika MIT, yang memimpin studi, menjelaskan bahwa penelitian ini dapat memiliki implikasi untuk kemampuan robot untuk menangani situasi yang tidak terduga. Seperti yang dijelaskan Everett melalui MIT News:

“Orang dapat bersifat adversarial, seperti berdiri di depan robot untuk memblokir sensor, atau berinteraksi dengan mereka, tidak selalu dengan niat baik,” kata Everett. “Bagaimana sebuah robot dapat memikirkan semua hal yang mungkin orang coba lakukan, dan mencoba menghindarinya? Apa jenis model adversarial yang ingin kita lindungi? Itu adalah sesuatu yang kita pikirkan tentang bagaimana melakukannya.”