Insinyur AI Mengembangkan Metode yang Dapat Mendeteksi Niat Orang yang Menyebarkan Informasi yang Salah

Mengatasi informasi yang salah di era digital adalah masalah yang kompleks. Tidak hanya informasi yang salah harus diidentifikasi, diberi label, dan diperbaiki, tetapi niat orang yang bertanggung jawab atas klaim tersebut juga harus dibedakan. Seseorang mungkin tidak sengaja menyebarkan informasi yang salah, atau hanya memberikan pendapat tentang suatu isu meskipun kemudian dilaporkan sebagai fakta. Baru-baru ini, tim peneliti dan insinyur AI di Dartmouth menciptakan kerangka kerja yang dapat digunakan untuk menghasilkan pendapat dari “berita palsu”.

Seperti yang dilaporkan oleh ScienceDaily, studi tim Dartmouth baru-baru ini diterbitkan di Jurnal Eksperimental & Teoretis Kecerdasan Buatan. Sementara studi sebelumnya telah mencoba mengidentifikasi berita palsu dan melawan penipuan, ini mungkin merupakan studi pertama yang bertujuan untuk mengidentifikasi niat pembicara dalam sebuah berita. Sementara sebuah cerita yang benar dapat diputar menjadi berbagai bentuk penipuan, penting untuk membedakan apakah penipuan itu disengaja atau tidak. Tim peneliti berpendapat bahwa niat sangat penting ketika mempertimbangkan informasi yang salah, karena penipuan hanya mungkin terjadi jika ada niat untuk menipu. Jika seseorang tidak menyadari bahwa mereka menyebarkan informasi yang salah atau jika mereka hanya memberikan pendapat, maka tidak ada penipuan.

Eugene Santos Jr., seorang profesor teknik di Sekolah Teknik Thayer Dartmouth, menjelaskan kepada ScienceDaily mengapa model mereka mencoba membedakan niat penipuan:

“Niat penipuan untuk menipu pendengar dengan sengaja merupakan ancaman yang jauh lebih besar daripada kesalahan yang tidak disengaja. Menurut pengetahuan kami, algoritma kami adalah satu-satunya metode yang mendeteksi penipuan dan pada saat yang sama membedakan tindakan jahat dari tindakan yang tidak berbahaya.”

Untuk membangun model mereka, tim peneliti menganalisis fitur-fitur penalaran penipuan. Algoritma yang dihasilkan dapat membedakan niat untuk menipu dari bentuk komunikasi lainnya dengan fokus pada ketidaksesuaian antara argumen masa lalu seseorang dan pernyataan saat ini. Model yang dibangun oleh tim peneliti memerlukan sejumlah besar data yang dapat digunakan untuk mengukur seberapa jauh seseorang menyimpang dari argumen masa lalu. Data pelatihan yang digunakan oleh tim untuk melatih model mereka terdiri dari data yang diambil dari survei pendapat tentang topik kontroversial. Lebih dari 100 orang memberikan pendapat mereka tentang isu-isu kontroversial ini. Data juga ditarik dari ulasan 20 hotel yang berbeda, yang terdiri dari 400 ulasan palsu dan 800 ulasan nyata.

Menurut Santos, kerangka kerja yang dikembangkan oleh peneliti dapat diperbarui dan diterapkan oleh organisasi berita dan pembaca, untuk memungkinkan mereka menganalisis konten “berita palsu”. Pembaca dapat memeriksa artikel untuk kehadiran pendapat dan menentukan sendiri apakah argumen logis telah digunakan. Santos juga mengatakan bahwa tim ingin memeriksa dampak informasi yang salah dan efek riak yang dihasilkannya.

Budaya populer sering menggambarkan perilaku non-verbal seperti ekspresi wajah sebagai indikator bahwa seseorang berbohong, tetapi penulis studi tersebut mencatat bahwa petunjuk perilaku ini tidak selalu merupakan indikator yang dapat diandalkan dari kebohongan. Deqing Li, co-penulis makalah tersebut, menjelaskan bahwa penelitian mereka menemukan bahwa model berdasarkan niat penalaran lebih baik dalam membedakan kebohongan yang disengaja dari distorsi informasi lainnya. Li menjelaskan bahwa model niat penalaran “lebih baik dalam membedakan kebohongan yang disengaja dari jenis distorsi informasi lainnya”.

Karya peneliti Dartmouth bukanlah satu-satunya kemajuan baru dalam melawan informasi yang salah dengan AI. Artikel berita dengan judul clickbait sering menyembunyikan informasi yang salah. Misalnya, mereka sering mengimplikasikan bahwa satu hal terjadi ketika sebenarnya peristiwa lain yang sebenarnya terjadi.

Seperti yang dilaporkan oleh AINews, tim peneliti dari Arizona State University dan Penn State University berkolaborasi untuk menciptakan AI yang dapat mendeteksi clickbait. Peneliti meminta orang untuk menulis judul clickbait mereka sendiri dan juga menulis program untuk menghasilkan judul clickbait. Kedua bentuk judul tersebut kemudian digunakan untuk melatih model yang dapat mendeteksi judul clickbait secara efektif, terlepas dari apakah mereka ditulis oleh mesin atau orang.

Menurut peneliti, algoritma mereka sekitar 14,5% lebih akurat dalam mendeteksi judul clickbait daripada AI lainnya di masa lalu. Peneliti utama proyek dan profesor asosiasi di College of Information Sciences and Technology di Penn State, Dongwon Lee, menjelaskan bagaimana eksperimen mereka menunjukkan utilitas menghasilkan data dengan AI dan mengembalikannya ke pipa pelatihan.

“Hasil ini cukup menarik karena kami berhasil menunjukkan bahwa data pelatihan clickbait yang dihasilkan mesin dapat dikembalikan ke pipa pelatihan untuk melatih berbagai model pembelajaran mesin dengan kinerja yang ditingkatkan,” jelas Lee.