Hệ Thống Cảnh Báo Sớm Cho Thông Tin Sai Trên Mạng Phát Triển Bằng Trí Tuệ Nhân Tạo

Các nhà nghiên cứu tại Đại học Notre Dame đang làm việc trên một dự án để chống lại thông tin sai trên mạng, bao gồm cả các chiến dịch truyền thông để kích động bạo lực, gây chia rẽ và can thiệp vào các cuộc bầu cử dân chủ.

Đội ngũ các nhà nghiên cứu đã dựa vào trí tuệ nhân tạo (AI) để phát triển một hệ thống cảnh báo sớm. Hệ thống này sẽ có thể xác định các hình ảnh bị thao túng, video giả mạo và thông tin sai trên mạng. Đây là một hệ thống tự động, có thể mở rộng, sử dụng kỹ thuật thu hồi hình ảnh dựa trên nội dung. Nó có thể áp dụng các kỹ thuật dựa trên tầm nhìn máy tính để xác định các meme chính trị trên nhiều mạng xã hội.

Tim Weninger là một giáo sư phụ tá tại Bộ phận Khoa học và Kỹ thuật Máy tính tại Notre Dame.

“Meme rất dễ tạo và thậm chí còn dễ chia sẻ hơn,” Weninger nói. “Khi nói đến các meme chính trị, những thứ này có thể được sử dụng để giúp mọi người đi bầu, nhưng chúng cũng có thể được sử dụng để lan truyền thông tin không chính xác và gây hại.”

Weninger đã hợp tác với Walter Scheirer, một giáo sư phụ tá tại Bộ phận Khoa học và Kỹ thuật Máy tính tại Notre Dame, cùng với các thành viên trong đội ngũ nghiên cứu.

Cuộc Bầu Cử Tổng Thống Indonesia Năm 2019

Đội ngũ đã thử nghiệm hệ thống với cuộc bầu cử tổng thống Indonesia năm 2019. Họ đã thu thập hơn hai triệu hình ảnh và nội dung từ các nguồn khác nhau trên Twitter và Instagram liên quan đến cuộc bầu cử.

Trong cuộc bầu cử, ứng cử viên trung tả, trung lập đã đánh bại ứng cử viên bảo thủ, dân túy. Sau cuộc bầu cử, các cuộc biểu tình bạo lực đã nổ ra, trong đó tám người đã thiệt mạng và hàng trăm người khác bị thương. Nghiên cứu của đội ngũ đã phát hiện ra rằng có các chiến dịch tự phát và có sự phối hợp được phát động trên mạng xã hội với mục đích ảnh hưởng đến cuộc bầu cử và kích động bạo lực.

Các chiến dịch có sự phối hợp đã sử dụng các hình ảnh bị thao túng, thể hiện các tuyên bố sai và mô tả sai một số sự kiện. Các câu chuyện và meme được tạo ra bằng cách sử dụng các biểu tượng tin tức hợp pháp, với mục đích kích động công dân và người ủng hộ từ cả hai bên.

Phần Còn Lại Của Thế Giới

Cuộc bầu cử tổng thống Indonesia năm 2019 là một đại diện cho những gì có thể xảy ra trên toàn thế giới. Thông tin sai, đặc biệt là lan truyền qua mạng xã hội, có thể đe dọa đến các quá trình dân chủ.

Đội ngũ nghiên cứu tại Notre Dame bao gồm các chuyên gia pháp y số và các chuyên gia về nghiên cứu hòa bình. Theo đội ngũ, hệ thống đang được phát triển để đánh dấu nội dung bị thao túng, với mục đích ngăn chặn bạo lực và cảnh báo các nhà báo hoặc người theo dõi bầu cử về các mối đe dọa tiềm ẩn.

Hệ thống vẫn đang trong giai đoạn nghiên cứu và phát triển, nhưng nó sẽ cuối cùng được mở rộng và cá nhân hóa cho người dùng để theo dõi nội dung. Một số thách thức lớn nhất trong việc phát triển hệ thống bao gồm việc xác định cách tốt nhất để mở rộng quy mô thu thập và xử lý dữ liệu. Theo Scheirer, hệ thống hiện đang được đánh giá với bước tiếp theo là chuyển sang sử dụng hoạt động.

Có khả năng hệ thống có thể được sử dụng để theo dõi cuộc bầu cử tổng thống năm 2020 tại Hoa Kỳ, dự kiến sẽ chứng kiến lượng lớn thông tin sai và thao túng.

“Thời đại thông tin sai đã đến,” Scheirer nói. “Một video giả mạo thay thế các diễn viên trong một bộ phim nổi tiếng có thể seem như một điều thú vị và nhẹ nhàng, nhưng hãy tưởng tượng một video hoặc một meme được tạo ra với mục đích duy nhất là đối đầu giữa các nhà lãnh đạo thế giới – nói những lời họ không thực sự nói. Hãy tưởng tượng xem nội dung đó có thể được chia sẻ và lan truyền nhanh như thế nào trên các nền tảng. Hãy xem xét các hậu quả của những hành động đó.”