Các nhà nghiên cứu đang bắt đầu đào tạo Trí tuệ nhân tạo để chống lại lời nói căm thù trực tuyến

Tin giả và lời nói căm thù trực tuyến đang trở thành một vấn đề không chỉ hàng ngày, mà còn hàng phút. IkigaiLab báo cáo rằng Facebook (META ) và Twitter vừa phải đóng hơn 1,5 tỷ và 70 triệu tài khoản chỉ để cố gắng kiềm chế sự lan truyền của tin giả và lời nói căm thù trên toàn thế giới.

Tuy nhiên, hiện tại, nhiệm vụ này đòi hỏi sức mạnh con người khổng lồ và gần như làm việc liên tục để chỉ mới chạm vào bề mặt của vấn đề lời nói căm thù. Để giải quyết vấn đề này, các nhà nghiên cứu tại nhiều phòng thí nghiệm đang bắt đầu đào tạo trí tuệ nhân tạo (AI) để giúp đỡ trong nhiệm vụ khổng lồ này.

Ikigai dẫn nguồn từ hệ thống Rosetta mà Facebook đang sử dụng để hiểu tính xác thực của tin tức, hình ảnh hoặc nội dung khác được tải lên mạng xã hội này. Như được giải thích, Rosetta quét “từ, hình ảnh, ngôn ngữ, phông chữ, ngày đăng của bài viết cùng các biến số khác và cố gắng xác định xem thông tin được trình bày có chính xác hay không.” Sau khi hệ thống thu thập thông tin và nhớ rằng AI vẫn chưa hoàn toàn “thành thạo trong việc hiểu ám chỉ, tham khảo, ám chỉ và ngữ cảnh mà nội dung được đăng,” thì những người điều tiết nội dung sẽ tiếp quản và hướng dẫn hệ thống AI để phát hiện lời nói căm thù và tin giả.

Để cố gắng phát triển khả năng của hệ thống AI trong việc bao quát tất cả các sắc thái có thể của lời nói căm thù, một nhóm nhà nghiên cứu tại UC Santa Barbara và Intel (INTC ), như TheNextWeb (TNW) báo cáo, đã “lấy hàng nghìn cuộc trò chuyện từ những cộng đồng tồi tệ nhất trên Reddit và Gab và sử dụng chúng để phát triển và đào tạo AI chống lại lời nói căm thù.”

Theo báo cáo của họ, để làm điều này, nhóm nghiên cứu chung đã tạo ra một tập dữ liệu đặc biệt bao gồm “hàng nghìn cuộc trò chuyện được chọn lọc cẩn thận để đảm bảo chúng sẽ chứa đầy lời nói căm thù.” Họ cũng sử dụng danh sách các nhóm trên Reddit mà chủ yếu được đặc trưng bởi việc sử dụng lời nói căm thù được biên soạn bởi Justin Caffier của Vox.

Các nhà nghiên cứu đã thu thập được “hơn 22.000 bình luận từ Reddit và hơn 33.000 từ Gab.” Họ phát hiện ra rằng hai trang web này hiển thị “các từ khóa căm thù phổ biến tương tự, nhưng phân bố rất khác nhau.”

Họ lưu ý rằng do những khác biệt này, rất khó cho các phương tiện truyền thông xã hội can thiệp vào thời gian thực vì dòng chảy của lời nói căm thù quá lớn đến mức nó sẽ đòi hỏi vô số người thật để theo dõi.

Để giải quyết vấn đề này, nhóm nghiên cứu đã bắt đầu đào tạo AI để can thiệp. Cơ sở dữ liệu ban đầu của họ đã được gửi đến công nhân Amazon (AMZN ) Turk để được gắn nhãn. Sau khi xác định các trường hợp riêng lẻ của lời nói căm thù, công nhân đã đưa ra các cụm từ mà AI sẽ sử dụng “để ngăn người dùng đăng lời nói căm thù tương tự trong tương lai.”

Dựa trên đó, nhóm “đã chạy tập dữ liệu này và cơ sở dữ liệu can thiệp của họ qua các hệ thống học máy và xử lý ngôn ngữ tự nhiên khác nhau và tạo ra một loại nguyên mẫu cho AI can thiệp lời nói căm thù trực tuyến.”

Kết quả thu được là tuyệt vời, nhưng vì sự phát triển vẫn còn ở giai đoạn đầu, hệ thống chưa sẵn sàng để được sử dụng tích cực. Như được giải thích, “hệ thống, về lý thuyết, nên phát hiện lời nói căm thù và ngay lập tức gửi một thông điệp đến người đăng để cho họ biết lý do tại sao họ không nên đăng những thứ rõ ràng đại diện cho lời nói căm thù. Điều này dựa trên nhiều hơn là chỉ phát hiện từ khóa – để AI hoạt động, nó phải hiểu đúng ngữ cảnh.”