Peneliti Mulai Melatih Kecerdasan Buatan untuk Melawan Ucapan Kebencian Online

Berita palsu dan ucapan kebencian online menjadi masalah yang tidak hanya terjadi setiap hari, tetapi setiap menit. IkigaiLab melaporkan bahwa Facebook (META ) dan Twitter baru-baru ini harus menutup lebih dari 1,5 miliar dan 70 juta akun masing-masing untuk mencoba mengurangi penyebaran berita palsu dan ucapan kebencian di seluruh dunia.

Namun, tugas tersebut masih memerlukan kekuatan manusia yang besar dan jam kerja yang hampir konstan untuk hanya mengatasi sedikit dari esei ucapan kebencian. Untuk menyelesaikan masalah ini, peneliti di berbagai laboratorium mulai melatih kecerdasan buatan (AI) untuk membantu tugas yang sangat besar ini.

Ikigai menyebutkan sistem Rosetta yang digunakan Facebook untuk memahami keaslian berita, gambar, atau konten lain yang diunggah di media sosial tersebut. Seperti yang dijelaskan, apa yang dilakukan Rosetta adalah menggunakan “kata, gambar, bahasa, font, tanggal posting di antara variabel lain dan mencoba melihat apakah informasi yang disajikan adalah asli atau tidak.” Setelah sistem mengumpulkan informasi dan mempertimbangkan bahwa AI masih belum sepenuhnya “mampu memahami sindiran, referensi, sindiran, dan konteks di mana konten diposting,” maka moderator manusia mengambil alih dan membimbing sistem AI untuk menemukan ucapan kebencian dan berita palsu.

Untuk mencoba mengembangkan kemampuan sistem AI untuk dapat menangani semua nuansa yang mungkin terkait dengan ucapan kebencian, tim peneliti di UC Santa Barbara dan Intel (INTC ), seperti yang dilaporkan oleh TheNextWeb (TNW), “mengambil ribuan percakapan dari komunitas yang paling buruk di Reddit dan Gab dan menggunakan mereka untuk mengembangkan dan melatih AI untuk melawan ucapan kebencian.”

Menurut laporan mereka, untuk melakukan ini, tim peneliti bersama menciptakan dataset khusus yang menampilkan “ribuan percakapan yang dikurasi khusus untuk memastikan mereka penuh dengan ucapan kebencian.” Mereka juga menggunakan daftar kelompok di Reddit yang sebagian besar dikarakteristikan oleh penggunaan ucapan kebencian yang disusun oleh Justin Caffier dari Vox.

Peneliti tersebut mengumpulkan “lebih dari 22.000 komentar dari Reddit dan lebih dari 33.000 dari Gab.” Mereka menemukan bahwa kedua situs menunjukkan kata-kata benci populer yang serupa, tetapi distribusinya sangat berbeda.

Mereka mencatat bahwa karena perbedaan ini, sangat sulit bagi media sosial pada umumnya untuk melakukan intervensi secara real-time karena aliran ucapan kebencian sangat tinggi sehingga memerlukan orang-orang nyata yang tak terhitung untuk mengikutinya.

Untuk menangani masalah ini, tim peneliti mulai melatih AI untuk melakukan intervensi. Database awal mereka dikirim ke pekerja Amazon (AMZN ) Turk untuk diberi label. Setelah mengidentifikasi contoh-contoh ucapan kebencian, pekerja tersebut membuat kalimat yang akan digunakan AI “untuk mencegah pengguna memposting ucapan kebencian serupa di masa depan.”

Berdasarkan itu, tim tersebut “menggunakan dataset dan basis data intervensi melalui berbagai sistem pembelajaran mesin dan pengolahan bahasa alami dan menciptakan semacam prototipe untuk AI intervensi ucapan kebencian online.”

Hasil yang dihasilkan sangat baik, tetapi karena pengembangan masih berada pada tahap awal, sistem tersebut belum siap untuk digunakan secara aktif. Seperti yang dijelaskan, “sistem, secara teori, seharusnya dapat mendeteksi ucapan kebencian dan segera mengirimkan pesan kepada pengguna yang memposting, memberitahu mereka mengapa mereka tidak boleh memposting hal-hal yang jelas-jelas merupakan ucapan kebencian. Ini bergantung pada lebih dari sekadar deteksi kata kunci – agar AI bekerja, itu harus mendapatkan konteks yang tepat.”