Mô hình AI có thể xác định những người lan truyền thông tin sai lệch trước khi họ hành động

Một mô hình AI được tạo bởi các nhà nghiên cứu từ Đại học Sheffield có thể xác định những người dùng Twitter sẽ đăng thông tin sai lệch trước khi họ thực sự làm như vậy. Nếu mô hình này chứng minh được độ tin cậy, nó có thể được sử dụng để bổ sung các phương pháp hiện có trong việc chống lại thông tin sai lệch trên các nền tảng truyền thông xã hội.

Theo TechXplore, nghiên cứu này được dẫn đầu bởi các nhà nghiên cứu từ Bộ phận Khoa học Máy tính của Đại học Sheffield, bao gồm cả Dr. Nikos Aletras và Yida Mu. Nghiên cứu này được công bố trên tạp chí PeerJ và nó chi tiết các phương pháp được sử dụng để dự đoán xem một người dùng truyền thông xã hội có khả năng lan truyền thông tin sai lệch bằng cách đăng nội dung từ các nguồn tin không đáng tin cậy.

Đội ngũ nghiên cứu đã thu thập hơn 1 triệu tweet từ hơn 6000 người dùng Twitter, tất cả đều công khai. Đội ngũ đã áp dụng các kỹ thuật xử lý ngôn ngữ tự nhiên để sẵn sàng cho việc đào tạo mô hình AI. Mô hình AI này là một mô hình phân loại nhị phân, dán nhãn người dùng là có khả năng chia sẻ thông tin từ các nguồn không đáng tin cậy hoặc không có khả năng chia sẻ thông tin như vậy. Sau khi mô hình được đào tạo trên dữ liệu, nó đã đạt được độ chính xác phân loại khoảng 79,7%.

Khi phân tích kết quả của mô hình, các nhà nghiên cứu đã tìm thấy rằng những người dùng thường sử dụng ngôn ngữ thô lỗ và liên tục tweet về tôn giáo và chính trị có nhiều khả năng đăng thông tin từ các nguồn không đáng tin cậy. Cụ thể, có sự sử dụng rộng rãi các từ như “liberal”, “media”, “government”, “Israel”, và “Islam”. Trong khi đó, những người dùng đăng thông tin từ các nguồn đáng tin cậy thường sử dụng các từ như “I’ll”, “gonna”, “wanna”, “mood”, “excited”, và “birthday”. Ngoài ra, họ thường chia sẻ câu chuyện về cuộc sống cá nhân, như các tương tác với bạn bè, cảm xúc, hoặc thông tin về sở thích.

Kết quả của nghiên cứu này có thể giúp các công ty truyền thông xã hội như Facebook (META ), Reddit, và Twitter thiết kế các cách mới để chống lại sự lan truyền của thông tin sai lệch trực tuyến. Nghiên cứu này cũng có thể giúp các nhà tâm lý học và nhà khoa học xã hội hiểu rõ hơn về hành vi dẫn đến sự lan truyền thông tin sai lệch trên toàn mạng xã hội.

Como Aletras giải thích theo TechXplore, truyền thông xã hội đã biến thành một trong những cách chính mà người dân nhận được tin tức. Hàng triệu người dùng trên toàn thế giới nhận được câu chuyện tin tức qua Facebook và Twitter mỗi ngày, nhưng các nền tảng này cũng đã trở thành công cụ để lan truyền thông tin sai lệch trong xã hội. Aletras tiếp tục giải thích rằng việc xác định đáng tin cậy các xu hướng trong hành vi người dùng có thể giúp ngăn chặn thông tin sai lệch. Como Aletras giải thích, có một “sự tương quan giữa việc sử dụng ngôn ngữ thô lỗ và lan truyền nội dung không đáng tin cậy có thể được quy cho sự thù địch chính trị trực tuyến cao”.

Theo Mu, việc phân tích hành vi của những người dùng chia sẻ thông tin không đáng tin cậy có thể giúp các nền tảng truyền thông xã hội bằng cách bổ sung các phương pháp kiểm tra事 thực hiện sẵn có và mô hình hóa thông tin sai lệch ở mức người dùng. Como Mu nói qua TechXplore:

“Nghiên cứu và phân tích hành vi của những người dùng chia sẻ nội dung từ các nguồn tin không đáng tin cậy có thể giúp các nền tảng truyền thông xã hội ngăn chặn sự lan truyền của tin giả ở mức người dùng, bổ sung các phương pháp kiểm tra事 thực hiện sẵn có ở mức bài đăng hoặc nguồn tin.”

Nghiên cứu được thực hiện bởi Aletras và Mu có thể là một ví dụ về việc sử dụng AI để chống lại thông tin sai lệch được tạo ra bởi AI. Những tháng gần đây đã chứng kiến sự gia tăng của thông tin sai lệch xung quanh chính trị địa phương và quốc gia, với nhiều nội dung được tạo ra và lan truyền bởi các thuật toán AI. Các mạng nơ-ron sâu đã được sử dụng để xây dựng các bức ảnh và hồ sơ thực tế cho các tài khoản giả mạo, những tài khoản này đóng vai trò là những người lan truyền tin giả. Nghiên cứu của Aletras và Mu có thể giúp các công ty truyền thông xã hội xác định được những tài khoản nào là giả mạo, tài khoản bot được tạo ra với mục đích lan truyền tuyên truyền và thông tin sai lệch có hại.