Chatroulette Trở Lại Với Sự Giúp Đỡ Của Kiểm Duyệt Nội Dung Được Động Làmcủa Trí Tuệ Nhân Tạo

Chatroulette đã trở nên nổi tiếng vào đầu những năm 2010 vì cho phép người dùng trò chuyện với những người khác, ngẫu nhiên. Tuy nhiên, trang web này cũng trở nên臭名昭著 do sự dễ dàng mà người dùng có thể gặp phải nội dung khiêu dâm và các nội dung “R-rated” khác. Theo báo cáo của Wired, Chatroulette hiện đang nhằm mục đích làm một sự trở lại với kiểm duyệt nội dung tốt hơn, được hỗ trợ bởi trí tuệ nhân tạo.

Kiểm Duyệt Nội Dung Được Động Làmcủa Trí Tuệ Nhân Tạo

Khi các thuật toán trí tuệ nhân tạo và thị giác máy tính trở nên tinh vi và đáng tin cậy hơn, các ứng dụng của chúng trong việc phát hiện nội dung phản cảm đã được cải thiện. Đây là một lợi thế cho bất kỳ công ty nào cho phép người dùng tải lên hoặc tạo nội dung. Các công ty như Youtube, Facebook (META ) và Twitter sử dụng các thuật toán lọc nội dung được hỗ trợ bởi trí tuệ nhân tạo để đối phó với nội dung phản cảm. Chatroulette đặc biệt từng bị ảnh hưởng bởi nội dung khiêu dâm và các hành vi phản cảm khác, điều này đã khiến nhiều người dùng rời bỏ. Đại dịch đã gây ra sự quan tâm trở lại đối với Chatroulette, và nhờ vào sự tiến bộ trong công nghệ nhận dạng hình ảnh trí tuệ nhân tạo, có thể giám sát nội dung được truyền bởi người dùng một cách hiệu quả hơn.

Vào năm 2019, người sáng lập Chatroulette Andrey Ternovskiy đã thành lập công ty tại Thụy Sĩ, với mục đích hợp tác với các nhà quản lý chuyên nghiệp và các chuyên gia trí tuệ nhân tạo. Chuyên gia học máy Andrew Done đã được Ternovskiy thuê để giám sát việc phát triển công nghệ trí tuệ nhân tạo cho Chatroulette mới. Done đã trở thành CEO vào đầu năm nay, và bổ sung thêm các nhà nghiên cứu sản phẩm và quản lý vào đội ngũ.

Dưới sự lãnh đạo mới, Chatroulette đã tận dụng sự gia tăng lưu lượng truy cập để thực hiện nghiên cứu người dùng và thử nghiệm các phương pháp kiểm duyệt nội dung. Đội ngũ Chatroulette đã thiết kế hai kênh trò chuyện mới. Một kênh trò chuyện được gọi là Random Chat, được thiết kế để loại bỏ nội dung phản cảm, trong khi kênh khác được gọi là Unmoderated. Sự phân chia này được thực hiện để thu hút người dùng quan tâm đến việc kết nối với những người khác mà không cần phải lo lắng về nội dung phản cảm. Kênh không được kiểm duyệt sẽ cuối cùng bị loại bỏ vào giữa năm 2021.

Hợp Tác Với Công Ty Trí Tuệ Nhân Tạo Hive

Chatroulette đã hợp tác với công ty trí tuệ nhân tạo Hive để phát triển các công cụ phát hiện khiêu dâm. Hive cũng chịu trách nhiệm kiểm duyệt nội dung trên Reddit, điều này cho họ kinh nghiệm trong việc quản lý nội dung trên một mạng xã hội lớn. Theo Done, hệ thống giám sát trí tuệ nhân tạo của Hive chính xác đến mức việc bao gồm các trình kiểm duyệt con người thực sự làm giảm độ chính xác của việc kiểm duyệt. Hive đào tạo các mô hình trí tuệ nhân tạo trên dữ liệu được chú thích bởi lực lượng lao động phân tán hơn 2 triệu người. Lực lượng lao động này tìm kiếm nội dung phản cảm như khiêu dâm và sự hiện diện của súng, chú thích hình ảnh để sử dụng trong việc đào tạo trí tuệ nhân tạo của Hive. Mặc dù Chatroulette đã cố gắng sử dụng hệ thống trí tuệ nhân tạo Cloud Vision của Google và Amazon (AMZN ) Rekognition để hỗ trợ kiểm duyệt nội dung, nhưng cuối cùng họ đã tìm thấy rằng trí tuệ nhân tạo của Hive là chính xác và đáng tin cậy nhất cho nhu cầu của họ.

Trí tuệ nhân tạo của Hive đã xử lý hơn 600 triệu khung hình video từ Chatroulette. Mỗi kết nối giữa hai người dùng sẽ tạo ra ba khung hình. Một khung hình được tạo cho cả hai người dùng tại đầu kết nối, và một khung hình được tạo cho người dùng kết thúc kết nối. Nội dung vi phạm điều khoản có thể được xác định trong vòng một giây. Một thông báo cảnh báo sẽ được gửi đến một trình kiểm duyệt con người, người có thể cấm hoặc cảnh cáo người dùng.

Vào đầu năm, Chatroulette có khoảng 4 triệu người dùng độc nhất mỗi tháng, đây là số lượng người dùng nhiều nhất mà công ty đã có kể từ đầu năm 2016. Những nỗ lực nhằm kiềm chế nội dung phản cảm dường như đã mang lại kết quả, vì phụ nữ hiện chiếm khoảng 34% tổng số người dùng, tăng từ 11% vào năm 2018.

Mặc dù các công ty truyền thông xã hội đến và đi, Chatroulette dường như đã trở lại vị trí nổi bật một lần nữa. Tuy nhiên, Ternovskiy thừa nhận rằng công ty cũng có những vấn đề khác cần giải quyết ngoài việc kiểm duyệt nội dung. Theo Ternovskiy, gần 90% người dùng đầu tiên không bao giờ quay lại, vì họ tìm thấy các tương tác của mình là trung bình.

“Thử thách thực sự là xây dựng điều gì đó xứng đáng để thu hút mọi người quan tâm sử dụng nó thường xuyên hơn, chứ không chỉ là một việc làm một lần,” Ternovskiy giải thích qua Wired.