Model dan platform AI

Studi Menunjukkan Model AI Tidak Sesuai dengan Pemrosesan Visual Manusia

Alex McFarland
Tambahkan Unite.AI ke sumber pilihan Anda di Google
Poin utamaModel penglihatan AI gagal memahami bentuk objek secara holistik, berbeda dari persepsi…
Lihat selengkapnya
  • Model penglihatan AI gagal memahami bentuk objek secara holistik, berbeda dari persepsi manusia.
  • Kelemahan ini berpotensi salah membaca risiko secara berbahaya dalam aplikasi nyata seperti keselamatan lalu lintas.
  • Pelatihan jaringan pada tugas yang lebih luas, melampaui sekadar pengenalan sederhana, mungkin diperlukan.

Sebuah studi baru dari York University menunjukkan bahwa jaringan saraf konvolusional dalam (DCNN) tidak sesuai dengan pemrosesan visual manusia dengan menggunakan persepsi bentuk konfigural. Menurut Profesor James Elder, salah satu penulis studi, ini dapat memiliki implikasi dunia nyata yang serius dan berbahaya untuk aplikasi AI.

Studi baru yang berjudul “Deep learning models fail to capture the configural nature of human shape perception” diterbitkan di jurnal Cell Press iScience.

Studi ini merupakan kolaborasi antara Elder, yang memegang York Research Chair in Human and Computer Vision, serta menjabat sebagai salah satu direktur Center for AI & Society di York, dan Profesor Nicholas Baker, yang merupakan asisten profesor psikologi dan mantan peneliti pascadoktoral VISTA di York.

Stimuli Visual Baru “Frankensteins”

Tim peneliti menggunakan stimuli visual baru yang disebut “Frankensteins” untuk mengeksplorasi bagaimana otak manusia dan DCNN memproses sifat objek holistik dan konfigural.

“Frankensteins adalah objek yang telah dibongkar dan dirakit kembali dengan cara yang salah,” kata Elder. “Sebagai hasilnya, mereka memiliki fitur lokal yang tepat, tetapi di tempat yang salah.”

Studi ini menemukan bahwa DCNN tidak terganggu oleh Frankensteins seperti sistem visual manusia. Ini menunjukkan ketidakpekaan terhadap sifat objek konfigural.

“Hasil kami menjelaskan mengapa model AI dalam gagal dalam kondisi tertentu dan menunjukkan kebutuhan untuk mempertimbangkan tugas di luar pengenalan objek untuk memahami pemrosesan visual di otak,” lanjut Elder. “Model dalam ini cenderung mengambil jalan pintas ketika menyelesaikan tugas pengenalan yang kompleks. Meskipun jalan pintas ini mungkin berhasil dalam banyak kasus, mereka dapat berbahaya dalam beberapa aplikasi AI dunia nyata yang saat ini kita kerjakan dengan mitra industri dan pemerintah.”

Gambar: York University

Implikasi Dunia Nyata

Elder mengatakan bahwa salah satu aplikasi ini adalah sistem keselamatan lalu lintas berbasis video.

“Objek di sebuah adegan lalu lintas yang sibuk — kendaraan, sepeda, dan pejalan kaki — menghalangi satu sama lain dan tiba di mata pengemudi sebagai kumpulan fragmen yang terputus-putus,” katanya. “Otak perlu mengelompokkan fragmen-fragmen tersebut dengan benar untuk mengidentifikasi kategori dan lokasi objek yang tepat. Sistem AI untuk pemantauan keselamatan lalu lintas yang hanya dapat memahami fragmen-fragmen secara individual akan gagal dalam tugas ini, sehingga berpotensi salah memahami risiko bagi pengguna jalan yang rentan.”

Peneliti juga mengatakan bahwa modifikasi pelatihan dan arsitektur yang bertujuan untuk membuat jaringan lebih seperti otak tidak mencapai pemrosesan konfigural. Tidak ada jaringan yang dapat memprediksi penilaian manusia terhadap objek secara akurat pada setiap percobaan.

“Kami berspekulasi bahwa untuk mencocokkan sensitivitas konfigural manusia, jaringan harus dilatih untuk menyelesaikan rentang tugas objek yang lebih luas di luar pengenalan kategori,” kesimpulan Elder.

Alex memimpin operasi berita berbasis AI di Unite.AI, menggabungkan jurnalisme, riset, dan otomasi untuk mendukung liputan kecerdasan buatan yang tepat waktu dan skalabel. Pekerjaannya membantu memastikan perkembangan AI yang muncul ditampilkan secara efisien sambil mempertahankan standar editorial publikasi.