Các Kỹ Sư Phát Triển Phương Pháp Phát Hiện Mục Đích Của Những Người Lan Truyền Thông Tin Sai

Xử lý thông tin sai lệch trong thời đại kỹ thuật số là một vấn đề phức tạp. Không chỉ thông tin sai lệch phải được xác định, gắn thẻ và sửa chữa, mà mục đích của những người chịu trách nhiệm về việc tuyên bố đó cũng nên được phân biệt. Một người có thể vô tình lan truyền thông tin sai lệch, hoặc chỉ đang đưa ra ý kiến của mình về một vấn đề, ngay cả khi nó sau đó được báo cáo là sự thật. Gần đây, một nhóm các nhà nghiên cứu và kỹ sư trí tuệ nhân tạo tại Dartmouth đã tạo ra một khuôn khổ có thể được sử dụng để suy luận từ “tin giả” báo cáo.

Theo ScienceDaily báo cáo, nghiên cứu của nhóm Dartmouth đã được công bố gần đây trên Tạp chí Trí tuệ Nhân tạo Thử nghiệm và Lý thuyết. Trong khi các nghiên cứu trước đây đã cố gắng xác định tin giả và chống lại sự lừa dối, đây có thể là nghiên cứu đầu tiên nhằm xác định mục đích của người nói trong một đoạn tin. Trong khi một câu chuyện thật có thể bị bóp méo thành các hình thức lừa dối khác nhau, điều quan trọng là phải phân biệt xem liệu sự lừa dối có được định hướng hay không. Nhóm nghiên cứu cho rằng mục đích quan trọng khi xem xét thông tin sai lệch, vì sự lừa dối chỉ có thể xảy ra nếu có ý định lừa dối. Nếu một cá nhân không nhận ra họ đang lan truyền thông tin sai lệch hoặc nếu họ chỉ đang đưa ra ý kiến của mình, thì không thể có sự lừa dối.

Eugene Santos Jr., giáo sư kỹ thuật tại Trường Kỹ thuật Thayer của Dartmouth, giải thích với ScienceDaily tại sao mô hình của họ cố gắng phân biệt mục đích lừa dối:

“Mục đích lừa dối để lừa dối người nghe một cách cố ý tạo ra một mối đe dọa lớn hơn nhiều so với những sai lầm không cố ý. Theo kiến thức tốt nhất của chúng tôi, thuật toán của chúng tôi là phương pháp duy nhất phát hiện sự lừa dối và đồng thời phân biệt các hành động độc ác từ các hành động vô hại.”

Để xây dựng mô hình của họ, nhóm nghiên cứu đã phân tích các đặc điểm của lý lẽ lừa dối. Thuật toán kết quả có thể phân biệt mục đích lừa dối từ các hình thức giao tiếp khác bằng cách tập trung vào sự không nhất quán giữa các lập luận trước đây của một người và các tuyên bố hiện tại của họ. Mô hình được xây dựng bởi nhóm nghiên cứu cần một lượng lớn dữ liệu có thể được sử dụng để đo lường cách một người偏离 khỏi các lập luận trước đây. Dữ liệu đào tạo mà nhóm sử dụng để đào tạo mô hình của họ bao gồm dữ liệu từ một cuộc khảo sát về quan điểm trên các chủ đề gây tranh cãi. Hơn 100 người đã đưa ra quan điểm của mình về các vấn đề gây tranh cãi này. Dữ liệu cũng được thu thập từ các đánh giá của 20 khách sạn khác nhau, bao gồm 400 đánh giá giả và 800 đánh giá thực.

Theo Santos, khuôn khổ được phát triển bởi các nhà nghiên cứu có thể được tinh chỉnh và áp dụng bởi các tổ chức tin tức và người đọc, để cho phép họ phân tích nội dung của các bài báo “tin giả”. Người đọc có thể kiểm tra các bài báo để tìm sự hiện diện của quan điểm và xác định cho chính mình xem một lập luận logic đã được sử dụng hay chưa. Santos cũng cho biết rằng nhóm muốn kiểm tra tác động của thông tin sai lệch và các hiệu ứng gợn sóng mà nó tạo ra.

Văn hóa đại chúng thường mô tả các hành vi phi ngôn ngữ như biểu cảm khuôn mặt là chỉ số cho thấy ai đó đang nói dối, nhưng các tác giả của nghiên cứu lưu ý rằng những gợi ý hành vi này không phải lúc nào cũng là chỉ số đáng tin cậy của việc nói dối. Deqing Li, đồng tác giả của bài báo, giải thích rằng nghiên cứu của họ cho thấy rằng các mô hình dựa trên mục đích suy luận là chỉ số tốt hơn của việc nói dối so với các khác biệt hành vi và ngôn ngữ. Li giải thích rằng các mô hình mục đích suy luận “tốt hơn trong việc phân biệt nói dối có chủ ý từ các loại biến dạng thông tin khác”.

Công việc của các nhà nghiên cứu Dartmouth không phải là bước tiến gần đây duy nhất khi nói đến việc chống lại thông tin sai lệch với trí tuệ nhân tạo. Các bài báo với tiêu đề clickbait thường che giấu thông tin sai lệch. Ví dụ, chúng thường ngụ ý một điều gì đó đã xảy ra khi một sự kiện khác thực sự đã xảy ra.

Theo AINews báo cáo, một nhóm các nhà nghiên cứu từ cả Đại học Arizona và Đại học Bang Penn đã hợp tác để tạo ra một trí tuệ nhân tạo có thể phát hiện clickbait. Các nhà nghiên cứu đã yêu cầu mọi người viết tiêu đề clickbait của riêng họ và cũng viết một chương trình để tạo ra tiêu đề clickbait. Cả hai loại tiêu đề đều được sử dụng để đào tạo một mô hình có thể phát hiện hiệu quả tiêu đề clickbait, bất kể chúng được viết bởi máy hoặc con người.

Theo các nhà nghiên cứu, thuật toán của họ khoảng 14,5% chính xác hơn khi phát hiện tiêu đề clickbait so với các trí tuệ nhân tạo trước đây. Nhà nghiên cứu chính của dự án và giáo sư phụ tá tại Trường Khoa học và Công nghệ Thông tin tại Penn State, Dongwon Lee, giải thích cách thí nghiệm của họ chứng minh tính hữu ích của việc tạo ra dữ liệu với một trí tuệ nhân tạo và cho dữ liệu đó vào một đường ống đào tạo.

“Kết quả này khá thú vị vì chúng tôi đã chứng minh thành công rằng dữ liệu đào tạo clickbait được tạo ra bởi máy có thể được đưa trở lại vào đường ống đào tạo để đào tạo một loạt các mô hình học máy có hiệu suất cải thiện,” Lee giải thích.