Peneliti Mengembangkan Alat Baru untuk Melawan Bias di Penglihatan Komputer

Salah satu masalah yang baru-baru ini muncul dalam bidang kecerdasan buatan (AI) adalah bias dalam penglihatan komputer. Banyak ahli sekarang menemukan bias dalam sistem AI, yang menyebabkan hasil yang tidak akurat dalam berbagai aplikasi, seperti program penjara pengadilan.

Saat ini sedang dilakukan upaya besar untuk memperbaiki beberapa masalah ini, dengan perkembangan terbaru datang dari Universitas Princeton. Peneliti di lembaga tersebut telah menciptakan alat baru yang dapat mendeteksi potensi bias dalam gambar yang digunakan untuk melatih sistem AI.

Penelitian ini dipresentasikan pada 24 Agustus di Konferensi Virtual Eropa tentang Penglihatan Komputer.

Bias dalam Sistem AI

Salah satu alasan utama untuk bias yang ada dalam sistem AI saat ini adalah bahwa mereka sering dilatih pada set gambar besar yang berasal dari sumber online. Gambar-gambar ini dapat bersifat stereotip, dan ketika mereka digunakan untuk mengembangkan penglihatan komputer, hasilnya dapat dipengaruhi secara tidak sengaja. Penglihatan komputer memungkinkan komputer untuk mengidentifikasi orang, objek, dan aksi.

Alat yang dikembangkan oleh peneliti ini adalah sumber terbuka, dan dapat secara otomatis mengungkapkan potensi bias dalam set data visual. Alat ini bekerja dengan mengambil tindakan sebelum set gambar digunakan untuk melatih model penglihatan komputer, dan masalah yang terkait dengan underrepresentasi dan stereotip dapat diperbaiki sebelum mereka menyebabkan efek.

REVISE

Alat baru ini disebut REVISE, dan bergantung pada metode statistik untuk mengidentifikasi potensi bias dalam set data. Alat ini fokus pada tiga area, yaitu objek, gender, dan geografi.

REVISE sepenuhnya otomatis dan dibangun berdasarkan metode sebelumnya yang termasuk filtering dan balancing gambar dalam set data sehingga pengguna dapat memiliki lebih banyak kontrol.

Alat ini bergantung pada anotasi gambar dan pengukuran yang ada untuk menganalisis konten dalam set data. Beberapa anotasi yang ada termasuk jumlah objek dan negara asal gambar.

Dalam satu contoh alat ini bekerja, REVISE menunjukkan bagaimana gambar orang dan bunga berbeda tergantung pada gender. Laki-laki lebih mungkin muncul dengan bunga dalam upacara atau pertemuan, dan perempuan lebih mungkin muncul dengan bunga dalam lukisan atau skenario yang diatur.

Olga Russaskovsky adalah asisten profesor ilmu komputer dan peneliti utama di Laboratorium AI Visual. Makalah ini ditulis bersama dengan mahasiswa pascasarjana Angelina Wang dan asisten profesor ilmu komputer, Arvind Narayanan.

Setelah alat ini mengidentifikasi ketidaksesuaian, “kemudian ada pertanyaan tentang apakah ini adalah fakta yang tidak berbahaya, atau apakah ada sesuatu yang lebih dalam terjadi, dan itu sangat sulit untuk diotomatisasi,” kata Russaskovsky.

Wilayah yang Kurang atau Tidak Tepat Direpresentasikan

Berbagai wilayah di seluruh dunia kurang direpresentasikan dalam set data penglihatan komputer, dan ini dapat menyebabkan bias dalam sistem AI. Salah satu temuan adalah bahwa jumlah gambar yang berasal dari Amerika Serikat dan negara-negara Eropa jauh lebih besar. REVISE juga mengungkapkan bahwa gambar dari wilayah lain di dunia sering tidak memiliki keterangan gambar dalam bahasa setempat, yang berarti banyak di antaranya mungkin berasal dari pandangan turis tentang sebuah negara.

“…analisis geografi ini menunjukkan bahwa pengenalan objek masih dapat sangat bias dan eksklusif, dan dapat mempengaruhi wilayah dan orang-orang secara tidak sama,” lanjut Russaskovsky.

“Praktik pengumpulan data dalam ilmu komputer belum dipelajari secara menyeluruh sampai baru-baru ini,” kata Wang. Ketika datang ke pengumpulan gambar, mereka “dipilih dari internet, dan orang-orang tidak selalu menyadari bahwa gambar mereka digunakan [dalam set data]. Kami harus mengumpulkan gambar dari kelompok orang yang lebih beragam, tetapi ketika kami melakukannya, kami harus berhati-hati bahwa kami mendapatkan gambar-gambar tersebut dengan cara yang hormat.”

Vicente Ordonez-Roman adalah asisten profesor ilmu komputer di Universitas Virginia.

“Alat dan benchmark adalah langkah penting… mereka memungkinkan kami untuk menangkap bias-bias ini lebih awal dalam pipa dan memikirkan kembali pengaturan masalah dan asumsi kami serta praktik pengumpulan data,” kata Ordonez-Roman. “Dalam penglihatan komputer ada beberapa tantangan khusus terkait representasi dan propagasi stereotip. Karya-karya seperti yang dilakukan oleh Laboratorium AI Visual Princeton membantu menjelaskan dan mengarahkan perhatian komunitas penglihatan komputer pada beberapa masalah ini dan menawarkan strategi untuk memitigasinya.”

Alat baru yang dikembangkan oleh peneliti ini adalah langkah penting untuk membantu memperbaiki bias yang ada dalam sistem AI. Sekarang adalah waktu untuk memperbaiki masalah-masalah ini, karena akan menjadi lebih sulit ketika sistem-sistem ini berkembang dan menjadi lebih kompleks.