Model AI Dapat Mengidentifikasi Penyebar Disinformasi Sebelum Mereka Bertindak

Model AI yang dibuat oleh peneliti dari University of Sheffield dapat memprediksi dengan potensial pengguna Twitter mana yang akan memposting disinformasi sebelum mereka benar-benar melakukannya. Jika model tersebut terbukti handal, maka dapat digunakan untuk melengkapi metode yang ada untuk melawan disinformasi di media sosial.

Menurut TechXplore, Penelitian ini dipimpin oleh peneliti dari Departemen Ilmu Komputer University of Sheffield, termasuk Dr. Nikos Aletras dan Yida Mu. Penelitian ini diterbitkan dalam jurnal PeerJ dan menjelaskan metode yang digunakan untuk memprediksi jika pengguna media sosial kemungkinan akan menyebarkan disinformasi dengan memposting konten dari sumber berita yang tidak dapat dipercaya.

Tim peneliti mengumpulkan lebih dari 1 juta tweet dari lebih dari 6000 pengguna Twitter, semua tersedia secara publik. Tim menerapkan teknik pemrosesan bahasa alami untuk mempersiapkan data untuk pelatihan model AI. AI adalah model klasifikasi biner, yang menandai pengguna sebagai kemungkinan untuk berbagi informasi dari sumber yang tidak dapat dipercaya atau tidak kemungkinan untuk melakukannya. Setelah model dilatih pada data, model tersebut dapat mencapai akurasi klasifikasi sekitar 79,7%.

Ketika menganalisis hasil kinerja model, peneliti menemukan bahwa pengguna yang banyak menggunakan bahasa yang tidak sopan dan terus-menerus tweeting tentang agama dan politik lebih kemungkinan untuk memposting informasi dari sumber yang tidak dapat dipercaya. Khususnya, ada penggunaan berat kata-kata seperti “liberal”, “media”, “pemerintah”, “Israel”, dan “Islam”. Sementara itu, pengguna yang memposting informasi dari sumber yang dapat dipercaya cenderung menggunakan kata-kata seperti “I’ll”, “gonna”, “wanna”, “mood”, “excited”, dan “birthday”. Di luar itu, mereka biasanya berbagi cerita tentang kehidupan pribadi mereka, seperti interaksi dengan teman, emosi, atau informasi tentang hobi mereka.

Temuan penelitian ini dapat membantu perusahaan media sosial seperti Facebook (META ), Reddit, dan Twitter untuk mengembangkan cara baru untuk melawan penyebaran disinformasi online. Penelitian ini juga dapat membantu psikolog dan ilmuwan sosial untuk memahami perilaku yang menyebabkan penyebaran disinformasi yang meluas di jaringan sosial.

Menurut Aletras, seperti yang dilaporkan oleh TechXplore, media sosial telah berubah menjadi salah satu cara utama orang mendapatkan berita. Jutaan pengguna di seluruh dunia mendapatkan cerita berita melalui Facebook dan Twitter setiap hari, tetapi platform ini juga telah menjadi alat untuk menyebarkan disinformasi di masyarakat. Aletras melanjutkan bahwa mengidentifikasi tren tertentu dalam perilaku pengguna dapat membantu dalam mengurangi disinformasi. Menurut Aletras, ada “korelasi antara penggunaan bahasa yang tidak sopan dan penyebaran konten yang tidak dapat dipercaya dapat dikaitkan dengan tingginya kebencian politik online.”

Menurut Mu, menganalisis perilaku pengguna yang berbagi informasi dari sumber yang tidak dapat dipercaya dapat membantu platform media sosial dengan melengkapi metode pengecekan fakta yang ada dan memodelkan disinformasi pada tingkat pengguna. Seperti yang dikatakan Mu melalui TechXplore:

“Mempelajari dan menganalisis perilaku pengguna yang berbagi konten dari sumber berita yang tidak dapat dipercaya dapat membantu platform media sosial untuk mencegah penyebaran berita palsu pada tingkat pengguna, melengkapi metode pengecekan fakta yang ada yang bekerja pada tingkat posting atau sumber berita.”

Penelitian yang dilakukan oleh Aletras dan Mu mungkin merupakan contoh penggunaan AI untuk melawan disinformasi yang dihasilkan oleh AI. Beberapa bulan terakhir telah melihat peningkatan disinformasi seputar politik lokal dan nasional, dengan sebagian besar konten dihasilkan dan disebarkan oleh algoritma AI. Jaringan neural yang dalam telah digunakan untuk mengkonstruksi foto yang realistis dan profil untuk akun palsu yang berfungsi sebagai penyebar berita palsu. Penelitian Aletras dan Mu dapat membantu perusahaan media sosial untuk mengetahui akun mana yang palsu, akun bot yang dibuat dengan tujuan menyebarkan propaganda dan disinformasi yang berbahaya.