Studi Baru Mencoba Meningkatkan Algoritma Deteksi Ujaran Kebencian

Perusahaan media sosial, terutama Twitter, telah lama menghadapi kritik tentang bagaimana mereka menandai ucapan dan memutuskan akun mana yang harus diblokir. Masalah utama hampir selalu terkait dengan algoritma yang mereka gunakan untuk memantau postingan online. Sistem kecerdasan buatan jauh dari sempurna dalam tugas ini, tetapi terus ada upaya untuk meningkatkannya.

Termasuk dalam upaya tersebut adalah sebuah studi baru dari Universitas Southern California yang berusaha mengurangi kesalahan tertentu yang dapat menghasilkan bias rasial.

Kegagalan Mengenali Konteks

Salah satu masalah yang tidak mendapatkan perhatian banyak adalah algoritma yang dimaksudkan untuk menghentikan penyebaran ucapan kebencian tetapi sebenarnya memperkuat bias rasial. Ini terjadi ketika algoritma gagal mengenali konteks dan malah menandai atau memblokir tweet dari kelompok minoritas.

Masalah terbesar dengan algoritma dalam hal konteks adalah bahwa mereka terlalu sensitif terhadap istilah pengidentifikasi kelompok tertentu seperti “hitam,” “gay,” dan “transgender.” Algoritma menganggap ini sebagai klasifikasi ucapan kebencian, tetapi sering digunakan oleh anggota kelompok tersebut dan pengaturan konteks sangat penting.

Dalam upaya untuk menyelesaikan masalah buta konteks ini, peneliti menciptakan klasifikasi ucapan kebencian yang lebih sensitif terhadap konteks. Algoritma baru ini kurang mungkin salah menglabeli sebuah posting sebagai ucapan kebencian.

Algoritma

Peneliti mengembangkan algoritma baru dengan mempertimbangkan dua faktor baru: konteks terkait pengidentifikasi kelompok, dan apakah ada fitur ucapan kebencian lainnya dalam posting, seperti bahasa dehumanisasi.

Brendan Kennedy adalah mahasiswa doktoral ilmu komputer dan ko-penulis utama studi, yang diterbitkan pada 6 Juli di ACL 2020.

“Kami ingin mendekatkan deteksi ucapan kebencian ke arah yang lebih siap untuk aplikasi dunia nyata,” kata Kennedy.

“Model deteksi ucapan kebencian sering ‘rusak’ atau menghasilkan prediksi buruk ketika diperkenalkan ke data dunia nyata, seperti media sosial atau teks online lainnya, karena mereka bias oleh data yang digunakan untuk melatih mereka untuk mengasosiasikan penampilan istilah pengidentifikasi sosial dengan ucapan kebencian.”

Alasan algoritma sering tidak akurat adalah karena mereka dilatih pada dataset yang tidak seimbang dengan tingkat ucapan kebencian yang sangat tinggi. Karena itu, algoritma gagal mempelajari cara menangani apa yang sebenarnya terjadi di media sosial dalam dunia nyata.

Profesor Xiang adalah ahli dalam pemrosesan bahasa alami.

“Hal ini sangat penting bagi model untuk tidak mengabaikan pengidentifikasi, tetapi untuk mencocokkannya dengan konteks yang tepat,” kata Ren.

“Jika Anda mengajarkan model dari dataset yang tidak seimbang, model mulai memilih pola aneh dan memblokir pengguna secara tidak tepat.”

Untuk menguji algoritma, peneliti menggunakan sampel acak teks dari dua situs media sosial yang memiliki tingkat ucapan kebencian yang tinggi. Teks tersebut pertama kali diberi label oleh manusia sebagai prasangka atau dehumanisasi. Model yang ada saat ini kemudian diukur melawan model peneliti untuk menandai ucapan non-kebencian yang tidak tepat, melalui penggunaan 12.500 artikel New York Times yang tidak mengandung ucapan kebencian. Sementara model yang ada saat ini dapat mencapai akurasi 77% dalam mengidentifikasi ucapan kebencian versus non-kebencian, model peneliti memiliki akurasi yang lebih tinggi pada 90%.

“Karya ini sendiri tidak membuat deteksi ucapan kebencian menjadi sempurna, itu adalah proyek besar yang banyak orang kerjakan, tetapi ini membuat kemajuan inkremental,” kata Kennedy.

“Selain mencegah posting media sosial oleh anggota kelompok yang dilindungi dari being sensor yang tidak tepat, kami berharap karya kami akan membantu memastikan bahwa deteksi ucapan kebencian tidak melakukan kerusakan yang tidak perlu dengan memperkuat asosiasi palsu prasangka dan dehumanisasi dengan kelompok sosial.”