Sistem Peringatan Dini untuk Disinformasi yang Dikembangkan dengan AI

Peneliti di Universitas Notre Dame bekerja pada proyek untuk melawan disinformasi online, termasuk kampanye media untuk memicu kekerasan, menanamkan perselisihan, dan mengganggu pemilihan demokratis. 

Tim peneliti bergantung pada kecerdasan buatan (AI) untuk mengembangkan sistem peringatan dini. Sistem ini akan dapat mengidentifikasi gambar yang dimanipulasi, video deepfake, dan disinformasi online. Ini adalah sistem yang dapat diskalakan, otomatis, dan menggunakan teknik pengambilan gambar berbasis konten. Sistem ini dapat menerapkan teknik berbasis penglihatan komputer untuk mengidentifikasi meme politik di beberapa jaringan sosial. 

Tim Weninger adalah profesor asosiasi di Departemen Ilmu Komputer dan Teknik di Notre Dame. 

“Meme mudah dibuat dan lebih mudah dibagikan,” kata Weninger. “Ketika datang ke meme politik, ini dapat digunakan untuk membantu mengeluarkan suara, tetapi juga dapat digunakan untuk menyebarkan informasi yang tidak akurat dan menyebabkan kerusakan.”

Weninger berkolaborasi dengan Walter Scheirer, asisten profesor di Departemen Ilmu Komputer dan Teknik di Notre Dame, bersama dengan anggota tim peneliti. 

Pemilihan Umum 2019 di Indonesia

Tim menguji sistem dengan pemilihan umum 2019 di Indonesia. Mereka mengumpulkan lebih dari dua juta gambar dan konten, berasal dari berbagai sumber di Twitter dan Instagram yang terkait dengan pemilihan. 

Dalam pemilihan, kandidat incumbent yang cenderung kiri, sentris, mengalahkan kandidat konservatif, populis. Setelah pemilihan, protes kekerasan meletus yang menewaskan delapan orang dan ratusan lainnya terluka. Studi tim menemukan bahwa ada kampanye spontan dan terkoordinasi yang diluncurkan di media sosial dengan tujuan mempengaruhi pemilihan dan memicu kekerasan. 

Kampanye terkoordinasi menggunakan gambar yang dimanipulasi, yang memproyeksikan klaim palsu dan salah menggambarkan beberapa peristiwa. Berita dan meme dibuat dengan menggunakan logo berita yang sah, dengan tujuan memicu warga dan pendukung dari kedua belah pihak. 

Sisa Dunia

Pemilihan umum 2019 di Indonesia adalah representasi dari apa yang dapat terjadi di sisa dunia. Disinformasi, terutama yang disebarkan melalui media sosial, dapat mengancam proses demokratis. 

Tim peneliti di Notre Dame termasuk ahli forensik digital dan spesialis studi perdamaian. Menurut tim, sistem ini sedang dikembangkan untuk mengidentifikasi konten yang dimanipulasi, dengan tujuan mencegah kekerasan dan memperingatkan jurnalis atau pengawas pemilihan tentang ancaman potensial. 

Sistem ini masih dalam tahap penelitian dan pengembangan, tetapi akan segera dapat diskalakan dan dipersonalisasi untuk pengguna memantau konten. Beberapa tantangan terbesar dalam mengembangkan sistem ini termasuk menentukan cara terbaik untuk menskalakan penggunaan data dan pemrosesan. Menurut Scheirer, sistem ini saat ini sedang dievaluasi dengan langkah selanjutnya adalah transisi ke penggunaan operasional. 

Ada kemungkinan bahwa sistem ini dapat digunakan untuk memantau pemilihan umum 2020 di Amerika Serikat, yang diharapkan akan melihat sejumlah besar disinformasi dan manipulasi.

“Zaman disinformasi telah tiba,” kata Scheirer. “Deepfake yang menggantikan aktor dalam film populer mungkin tampak menyenangkan dan ringan, tetapi bayangkan video atau meme yang dibuat untuk tujuan mempertentangkan pemimpin dunia satu melawan yang lain — mengatakan kata-kata yang tidak mereka ucapkan. Bayangkan seberapa cepat konten tersebut dapat dibagikan dan disebarkan di seluruh platform. Pertimbangkan konsekuensi dari tindakan tersebut.”