Model AI Dapat Mengidentifikasi Penyebar Disinformasi Sebelum Mereka Bertindak

Sebuah model AI yang dibuat oleh peneliti dari University of Sheffield dapat memprediksi secara potensial pengguna Twitter mana yang akan memposting disinformasi sebelum mereka benar-benar melakukannya. Jika model ini terbukti handal, maka dapat digunakan untuk melengkapi metode yang ada untuk melawan disinformasi di media sosial.

Menurut TechXplore, Studi ini dipimpin oleh peneliti dari Departemen Ilmu Komputer University of Sheffield, termasuk Dr. Nikos Aletras dan Yida Mu. Studi ini diterbitkan dalam jurnal PeerJ dan menjelaskan metode yang digunakan untuk memprediksi apakah pengguna media sosial kemungkinan besar akan menyebarkan disinformasi dengan memposting konten dari sumber berita yang tidak dapat diandalkan.

Tim peneliti mengumpulkan lebih dari 1 juta tweet dari lebih dari 6000 pengguna Twitter, semua tersedia secara publik. Tim menerapkan teknik pemrosesan bahasa alami untuk mempersiapkan data untuk pelatihan model AI. AI adalah model klasifikasi biner, yang menandai pengguna sebagai kemungkinan besar untuk berbagi informasi dari sumber yang tidak dapat diandalkan atau tidak kemungkinan besar. Setelah model dilatih pada data, maka dapat mencapai akurasi klasifikasi sekitar 79,7%.

Ketika menganalisis hasil kinerja model, peneliti menemukan bahwa pengguna yang banyak menggunakan bahasa yang tidak sopan dan terus-menerus mengirim tweet tentang agama dan politik lebih kemungkinan besar untuk memposting informasi dari sumber yang tidak dapat diandalkan. Khususnya, ada penggunaan berat kata-kata seperti “liberal”, “media”, “pemerintah”, “Israel”, dan “Islam”. Sementara itu, pengguna yang memposting informasi dari sumber yang dapat diandalkan cenderung menggunakan kata-kata seperti “I’ll”, “gonna”, “wanna”, “mood”, “excited”, dan “birthday”. Di luar itu, mereka biasanya berbagi cerita tentang kehidupan pribadi mereka, seperti interaksi dengan teman, emosi, atau informasi tentang hobi mereka.

Temuan studi ini dapat membantu perusahaan media sosial seperti Facebook, Reddit, dan Twitter untuk mengembangkan cara baru untuk melawan penyebaran informasi yang salah secara online. Penelitian ini juga dapat membantu psikolog dan ilmuwan sosial untuk lebih memahami perilaku yang menyebabkan penyebaran informasi yang salah secara meluas di jaringan sosial.

Seperti yang dijelaskan Aletras menurut TechXplore, media sosial telah berubah menjadi salah satu cara utama orang mendapatkan berita. Jutaan pengguna di seluruh dunia mendapatkan cerita berita melalui Facebook dan Twitter setiap hari, tetapi platform ini juga telah menjadi alat untuk menyebarkan disinformasi di masyarakat. Aletras melanjutkan bahwa mengidentifikasi tren tertentu dalam perilaku pengguna dapat membantu dalam mengurangi disinformasi. Seperti yang dijelaskan Aletras, ada “korelasi antara penggunaan bahasa yang tidak sopan dan penyebaran konten yang tidak dapat diandalkan dapat dikaitkan dengan tingginya kebencian politik online.”

Menurut Mu, menganalisis perilaku pengguna yang berbagi informasi yang tidak dapat diandalkan dapat membantu platform media sosial dengan melengkapi metode pengecekan fakta yang ada dan memodelkan disinformasi pada tingkat pengguna. Seperti yang dikatakan Mu melalui TechXplore:

“Mempelajari dan menganalisis perilaku pengguna yang berbagi konten dari sumber berita yang tidak dapat diandalkan dapat membantu platform media sosial untuk mencegah penyebaran berita palsu pada tingkat pengguna, melengkapi metode pengecekan fakta yang ada yang bekerja pada tingkat posting atau sumber berita.”

Penelitian yang dilakukan oleh Aletras dan Mu mungkin merupakan contoh penggunaan AI untuk melawan disinformasi yang dihasilkan oleh AI. Beberapa bulan terakhir telah menyaksikan peningkatan disinformasi seputar politik lokal dan nasional, dengan sebagian besar konten dihasilkan dan disebarkan oleh algoritma AI. Jaringan neural dalam telah digunakan untuk membuat foto yang realistis dan profil untuk akun palsu yang berfungsi sebagai penyebar berita palsu. Penelitian Aletras dan Mu dapat membantu perusahaan media sosial untuk mengetahui akun mana yang palsu, akun bot yang dibuat dengan tujuan menyebarkan propaganda dan disinformasi yang berbahaya.