Mungkin Overinterpretasi Lebih Besar dan Lebih Sulit Daripada Overfitting

Jika teman baik Anda, Alice, suka mengenakan sweter kuning, Anda akan melihat banyak sweter kuning lebih dari orang biasa. Setelah beberapa waktu, memungkinkan bahwa ketika Anda melihat wanita lain mengenakan sweter kuning, konsep inti Alice akan muncul di pikiran Anda.

Jika Anda melihat seorang wanita mengenakan sweter kuning yang menyerupai Alice sedikit, Anda mungkin bahkan salah mengira dia sebagai teman Anda.

Tapi itu bukan Alice. Akhirnya, Anda akan menyadari bahwa sweter kuning tidak berguna sebagai kunci untuk mengidentifikasi Alice, karena dia tidak pernah mengenakannya di musim panas, dan tidak selalu mengenakannya di musim dingin juga. Beberapa waktu ke dalam persahabatan, Anda akan mulai menurunkan sweter kuning sebagai kemungkinan pengidentifikasi Alice, karena pengalaman Anda dengan itu tidak memuaskan, dan energi kognitif yang digunakan untuk mempertahankan jalan pintas ini tidak sering diberi hadiah.

Jika Anda adalah sistem pengenalan visi berbasis komputer, bagaimanapun, memungkinkan bahwa Anda melihat Alice di mana-mana ketika Anda melihat sweter kuning.

Itu tidak salah; Anda telah diberi tugas untuk mengidentifikasi Alice dengan biaya apa pun, dari informasi minimum yang tersedia, dan tidak ada kekurangan sumber daya kognitif untuk mempertahankan Alice yang merendahkan ini.

Pengenalan yang Mengagumkan

Menurut sebuah makalah terbaru dari MIT Computer Science & Artificial Intelligence Laboratory (CSAIL) dan Amazon Web Services, sindrom ini, yang disebut overinterpretasi, sangat umum dalam bidang penelitian visi komputer (CV); tidak dapat diatasi dengan mengatasi overfitting (karena itu bukanlah tambahan langsung dari overfitting); sering terjadi dalam penelitian yang menggunakan dua dataset paling berpengaruh dalam pengenalan gambar dan transformasi, CIFAR-10 dan ImageNet; dan tidak memiliki solusi yang mudah – tentu tidak ada solusi murah.

Peneliti menemukan bahwa ketika mengurangi gambar pelatihan input menjadi hanya 5% dari konten koheren, berbagai kerangka kerja populer terus mengklasifikasikan gambar dengan benar, yang tampak, dalam sebagian besar kasus, sebagai ‘gibberish’ visual bagi pengamat manusia:

Gambar pelatihan asli dari CIFAR-10, dikurangi menjadi hanya 5% dari konten asli, namun diklasifikasikan dengan benar oleh berbagai kerangka kerja visi komputer populer dengan akurasi antara 90-99%. Sumber: https://arxiv.org/pdf/2003.08907.pdf

Dalam beberapa kasus, kerangka kerja klasifikasi sebenarnya menemukan gambar yang dipangkas ini lebih mudah untuk diklasifikasikan dengan benar daripada bingkai penuh dalam data pelatihan asli, dengan penulis mengamati ‘[CNNs] lebih percaya diri pada subset piksel ini daripada pada gambar penuh’.

Hal ini menunjukkan kemungkinan ‘kecurangan’ yang merusak yang terjadi sebagai praktik umum untuk sistem CV yang menggunakan dataset benchmark seperti CIFAR-10 dan ImageNet, dan kerangka kerja benchmark seperti VGG16, ResNet20, dan ResNet18.

Overinterpretasi memiliki implikasi yang signifikan untuk sistem kendaraan otonom berbasis CV, yang telah menjadi fokus baru-baru ini dengan keputusan Tesla untuk memfavoritkan interpretasi gambar daripada LiDAR dan sistem penginderaan berbasis sinar lainnya untuk algoritma self-driving.

Meskipun ‘pembelajaran jalan pintas’ adalah tantangan yang diketahui, dan bidang penelitian aktif dalam visi komputer, penulis makalah tersebut mengomentari bahwa penelitian Jerman/Kanada yang membingkai masalah ini pada 2019 tidak mengakui bahwa subset piksel ‘semu’ yang karakteristik overinterpretasi adalah ‘data yang valid secara statistik’, yang mungkin perlu diatasi dalam hal arsitektur dan pendekatan tingkat tinggi, bukan melalui kurasi dataset yang lebih hati-hati.

Makalah tersebut berjudul Overinterpretasi mengungkap patologi model klasifikasi gambar, dan berasal dari Brandon Carter, Siddhartha Jain, dan David Gifford di CSAIL, dalam kolaborasi dengan Jonas Mueller dari Amazon Web Services. Kode untuk makalah tersebut tersedia di https://github.com/gifford-lab/overinterpretation.

Mengurangi Data

Gambar yang dikurangi yang digunakan oleh peneliti disebut oleh mereka Subset Input yang Cukup (SIS) – pada dasarnya, gambar SIS berisi ‘kerangka luar’ minimum yang dapat membedakan gambar dengan cukup baik untuk memungkinkan sistem visi komputer mengidentifikasi subjek asli gambar (yaitu anjing, kapal, dll.).

Di baris atas, kita melihat gambar validasi ImageNet yang lengkap; di bawah, subset SIS, diklasifikasikan dengan benar oleh model Inception V3 dengan kepercayaan 90%, berdasarkan, tampaknya, semua yang tersisa dari gambar – konteks latar belakang.

Mengomentari hasil yang diperoleh di gambar di atas, peneliti mengamati:

‘Kami menemukan bahwa piksel SIS terkonsentrasi di luar objek yang sebenarnya menentukan label kelas. Misalnya, pada gambar “pizza”, SIS terkonsentrasi pada bentuk piring dan meja latar belakang, bukan pada pizza itu sendiri, menunjukkan bahwa model dapat menggeneralisasi dengan buruk pada gambar yang berisi item melingkar yang berbeda di atas meja. Pada gambar “panda raksasa”, SIS berisi bambu, yang kemungkinan muncul dalam koleksi foto ImageNet untuk kelas ini. ‘

‘Pada gambar “lampu lalu lintas” dan “tanda jalan”, SIS terdiri dari piksel di langit, menunjukkan bahwa sistem kendaraan otonom yang mungkin bergantung pada model ini harus dievaluasi dengan hati-hati untuk patologi overinterpretasi.’

Gambar SIS tidak dipotong secara acak, tetapi dibuat untuk proyek ini oleh proses Batched Gradient Backselect, pada Inception V3 dan ResNet50 melalui PyTorch. Gambar tersebut diperoleh oleh rutinitas ablasion yang mempertimbangkan hubungan antara kemampuan model untuk mengklasifikasikan gambar dengan akurat dan area di mana data asli dihilangkan.

Untuk mengonfirmasi validitas SIS, penulis menguji proses penghapusan piksel acak, dan menemukan hasilnya ‘jauh menos informatif’ dalam tes, menunjukkan bahwa gambar SIS benar-benar mewakili data minimum yang dibutuhkan oleh model dan dataset populer untuk membuat prediksi yang dapat diterima.

Secara sekilas, gambar yang dikurangi ini seharusnya gagal sejalan dengan tingkat diskriminasi visual manusia, yang akan menghasilkan akurasi median kurang dari 20%.

Dengan gambar SIS yang dikurangi menjadi hanya 5% dari piksel aslinya, manusia hampir mencapai tingkat kesuksesan klasifikasi ‘lebih dari acak’, vs. tingkat kesuksesan 90-99% dari dataset dan kerangka kerja populer yang dipelajari dalam makalah ini.

Di Luar Overfit

Overfitting terjadi ketika model pembelajaran mesin dilatih secara ekstensif pada dataset sehingga menjadi mahir dalam membuat prediksi untuk data spesifik tersebut, tetapi jauh menos efektif (atau bahkan tidak efektif sama sekali) pada data baru yang diperkenalkan kepadanya setelah pelatihan (data out-of-distribution).

Peneliti mencatat bahwa minat akademis dan industri saat ini dalam mengatasi overfitting tidak akan secara bersamaan menyelesaikan overinterpretasi, karena subset piksel yang dipangkas yang mewakili gambar yang dapat dikenali untuk komputer dan coretan nonsensical bagi manusia sebenarnya data yang valid secara statistik, bukan konsentrasi ‘obsesi’ pada data yang kurang baik atau anemis:

‘Overinterpretasi terkait dengan overfitting, tetapi overfitting dapat didiagnosis melalui akurasi tes yang berkurang. Overinterpretasi dapat berasal dari sinyal statistik yang sebenarnya dalam distribusi dataset dasar yang terjadi karena sifat tertentu dari sumber data (misalnya, aturan dermatolog). ‘

‘Oleh karena itu, overinterpretasi dapat lebih sulit didiagnosis karena itu mengakui keputusan yang dibuat oleh kriteria statistik yang valid, dan model yang menggunakan kriteria tersebut dapat unggul dalam benchmark.’

Solusi yang Mungkin

Penulis menyarankan bahwa ensembling model, di mana beberapa arsitektur berkontribusi pada proses evaluasi dan pelatihan, dapat membantu mengatasi overinterpretasi. Mereka juga menemukan bahwa menerapkan dropout input, yang awalnya dirancang untuk menghambat overfitting, menghasilkan ‘penurunan kecil’ dalam akurasi tes CIFAR-10 (yang mungkin diinginkan), tetapi ‘peningkatan yang signifikan’ (∼ 6%) dalam akurasi model pada data yang tidak terlihat. Namun, angka-angka yang rendah menunjukkan bahwa setiap obat untuk overfitting yang kemudian mungkin tidak akan sepenuhnya mengatasi overinterpretasi.

Penulis mengakui kemungkinan menggunakan peta saliensi untuk menunjukkan area mana dari gambar yang relevan untuk ekstraksi fitur, tetapi mencatat bahwa ini mengalahkan tujuan penguraian gambar otomatis, dan memerlukan anotasi manusia yang tidak dapat dilakukan dalam skala besar. Mereka lebih lanjut mengamati bahwa peta saliensi telah ditemukan menjadi hanya perkiraan kasar dalam hal wawasan ke dalam operasi model.

Makalah tersebut menyimpulkan:

‘Dengan adanya subset piksel non-salient yang cukup untuk klasifikasi yang benar, model mungkin hanya bergantung pada pola tersebut. Dalam kasus ini, metode interpretasi yang menggambarkan model dengan setia harus mengeluarkan rasional nonsensical ini, sedangkan metode interpretasi yang memihak pada prioritas manusia mungkin menghasilkan hasil yang menyesatkan pengguna untuk berpikir bahwa model mereka berperilaku seperti yang diinginkan.’

Dipublikasikan pertama kali pada 13 Januari 2022.