Peneliti Mencari Ahli Saraf untuk Mengatasi Bias Dataset

Tim peneliti di MIT, Harvard University, dan Fujitsu, Ltd. mencari cara untuk mengatasi bias dataset pada model pembelajaran mesin. Mereka menggunakan pendekatan ilmu saraf untuk mempelajari bagaimana data pelatihan mempengaruhi kemampuan jaringan saraf tiruan untuk mengenali objek yang belum pernah dilihat sebelumnya.

Penelitian ini dipublikasikan di Nature Machine Intelligence.

Keanekaragaman Data Pelatihan

Hasil penelitian menunjukkan bahwa keanekaragaman data pelatihan mempengaruhi kemampuan jaringan saraf tiruan untuk mengatasi bias. Namun, keanekaragaman data juga dapat memiliki dampak negatif pada kinerja jaringan. Peneliti juga menunjukkan bahwa cara jaringan saraf tiruan dilatih juga dapat mempengaruhi kemampuan untuk mengatasi dataset yang bias.

Xavier Boix adalah ilmuwan peneliti di Departemen Otak dan Ilmu Kognitif (BCS) dan Pusat untuk Otak, Pikiran, dan Mesin (CBMM). Ia juga merupakan penulis senior makalah ini.

“Jaringan saraf tiruan dapat mengatasi bias dataset, yang sangat mengembirakan. Namun, kesimpulan utama di sini adalah bahwa kita perlu mempertimbangkan keanekaragaman data. Kita perlu berhenti berpikir bahwa jika kita hanya mengumpulkan banyak data mentah, itu akan membawa kita ke suatu tempat. Kita perlu sangat berhati-hati dalam merancang dataset dari awal,” kata Boix.

Tim ini menggunakan pemikiran ahli saraf untuk mengembangkan pendekatan baru. Menurut Boix, sangat umum menggunakan dataset yang terkendali dalam eksperimen, sehingga tim ini membangun dataset yang berisi gambar objek yang berbeda dalam pose yang berbeda. Mereka kemudian mengendalikan kombinasi sehingga beberapa dataset lebih beragam daripada yang lain. Dataset dengan lebih banyak gambar yang menunjukkan objek dari satu sudut pandang saja kurang beragam, sedangkan dataset dengan lebih banyak gambar yang menunjukkan objek dari banyak sudut pandang lebih beragam.

Peneliti ini mengambil dataset ini dan menggunakan untuk melatih jaringan saraf tiruan untuk klasifikasi gambar. Mereka kemudian mempelajari seberapa baik jaringan saraf tiruan dalam mengenali objek dari sudut pandang yang tidak dilihat selama pelatihan.

Mereka menemukan bahwa dataset yang lebih beragam memungkinkan jaringan saraf tiruan untuk lebih baik dalam menggeneralisasi gambar atau sudut pandang baru, dan ini sangat penting untuk mengatasi bias.

“Namun, bukan berarti keanekaragaman data yang lebih besar selalu lebih baik; ada ketegangan di sini. Ketika jaringan saraf tiruan menjadi lebih baik dalam mengenali hal-hal baru yang belum pernah dilihat, maka akan menjadi lebih sulit bagi jaringan saraf tiruan untuk mengenali hal-hal yang sudah dilihat sebelumnya,” kata Boix.

Metode Pelatihan Jaringan Saraf Tiruan

Tim ini juga menemukan bahwa model yang dilatih secara terpisah untuk setiap tugas lebih baik dalam mengatasi bias dibandingkan dengan model yang dilatih untuk kedua tugas secara bersamaan.

“Hasilnya sangat mengejutkan. Bahkan, pertama kali kami melakukan eksperimen ini, kami pikir itu adalah kesalahan. Butuh beberapa minggu untuk menyadari bahwa itu adalah hasil yang nyata karena sangat tidak terduga,” lanjut Boix.

Analisis yang lebih dalam menunjukkan bahwa spesialisasi neuron terlibat dalam proses ini. Ketika jaringan saraf tiruan dilatih untuk mengenali objek dalam gambar, dua jenis neuron muncul. Satu neuron berspesialisasi dalam mengenali kategori objek, sedangkan neuron lainnya berspesialisasi dalam mengenali sudut pandang.

Neuron yang berspesialisasi menjadi lebih menonjol ketika jaringan saraf tiruan dilatih untuk melakukan tugas secara terpisah. Namun, ketika jaringan saraf tiruan dilatih untuk melakukan kedua tugas secara bersamaan, beberapa neuron menjadi tidak jelas. Ini berarti mereka tidak berspesialisasi dalam satu tugas, dan mereka lebih cenderung menjadi bingung.

“Namun, pertanyaan berikutnya sekarang adalah, bagaimana neuron ini muncul? Kami melatih jaringan saraf tiruan dan mereka muncul dari proses pembelajaran. Tidak ada yang memberitahu jaringan saraf tiruan untuk memasukkan jenis neuron ini dalam arsitektur. Itu adalah hal yang sangat menarik,” kata Boix.

Peneliti ini akan mencari untuk menjelajahi pertanyaan ini dalam pekerjaan mereka di masa depan, serta menerapkan pendekatan baru ini untuk tugas yang lebih kompleks.