Studi Menunjukkan Model AI Tidak Sesuai dengan Pemrosesan Visual Manusia

Sebuah studi baru dari York University menunjukkan bahwa jaringan saraf konvolusional dalam (DCNN) tidak sesuai dengan pemrosesan visual manusia dengan menggunakan persepsi bentuk konfigural. Menurut Professor James Elder, co-penulis studi, ini dapat memiliki implikasi dunia nyata yang serius dan berbahaya untuk aplikasi AI.

Studi baru yang berjudul “Deep learning models fail to capture the configural nature of human shape perception” diterbitkan di jurnal Cell Press iScience.

Studi ini merupakan kolaborasi antara Elder, yang memegang York Research Chair in Human and Computer Vision, serta Co-Director posisi York’s Center for AI & Society, dan Professor Nicholas Baker, yang merupakan asisten profesor psikologi dan mantan VISTA postdoctoral fellow di York.

Stimuli Visual Baru “Frankensteins”

Tim peneliti menggunakan stimuli visual baru yang disebut “Frankensteins” untuk mengeksplorasi bagaimana otak manusia dan DCNN memproses sifat objek holistik dan konfigural.

“Frankensteins adalah objek yang telah diambil apart dan dirakit kembali dengan cara yang salah,” kata Elder. “Sebagai hasilnya, mereka memiliki fitur lokal yang tepat, tetapi di tempat yang salah.”

Studi ini menemukan bahwa DCNN tidak terganggu oleh Frankensteins seperti sistem visual manusia. Ini menunjukkan ketidakpekaan terhadap sifat objek konfigural.

“Hasil kami menjelaskan mengapa model AI dalam gagal dalam kondisi tertentu dan menunjukkan kebutuhan untuk mempertimbangkan tugas di luar pengenalan objek untuk memahami pemrosesan visual di otak,” lanjut Elder. “Model dalam ini cenderung mengambil jalan pintas ketika menyelesaikan tugas pengenalan yang kompleks. Meskipun jalan pintas ini mungkin berhasil dalam banyak kasus, mereka dapat berbahaya dalam beberapa aplikasi AI dunia nyata yang saat ini kita kerjakan dengan mitra industri dan pemerintah.”

Gambar: York University

Implikasi Dunia Nyata

Elder mengatakan bahwa salah satu aplikasi ini adalah sistem keamanan video lalu lintas.

“Objek di sebuah adegan lalu lintas yang sibuk — kendaraan, sepeda, dan pejalan kaki — menghalangi satu sama lain dan tiba di mata pengemudi sebagai kumpulan fragmen yang terputus-putus,” katanya. “Otak perlu mengelompokkan fragmen-fragmen tersebut dengan benar untuk mengidentifikasi kategori dan lokasi objek yang tepat. Sistem AI untuk pemantauan keamanan lalu lintas yang hanya dapat memahami fragmen-fragmen secara individual akan gagal dalam tugas ini, potensial salah mengerti risiko bagi pengguna jalan yang rentan.”

Peneliti juga mengatakan bahwa modifikasi pelatihan dan arsitektur yang bertujuan untuk membuat jaringan lebih seperti otak tidak mencapai pemrosesan konfigural. Tidak ada jaringan yang dapat memprediksi penilaian objek manusia secara akurat dari trial ke trial.

“Kami berspekulasi bahwa untuk mencocokkan sensitivitas konfigural manusia, jaringan harus dilatih untuk menyelesaikan rentang tugas objek yang lebih luas di luar pengenalan kategori,” kesimpulan Elder.