Chatroulette возвращается с помощью модерации контента, управляемой искусственным интеллектом

Chatroulette прославилась в начале 2010-х тем, что позволяла людям общаться с другими случайными людьми. Однако сайт также стал печально известным из-за легкости, с которой люди могли столкнуться с наготой и другим контентом с рейтингом «R». Как сообщает Wired, Chatroulette теперь стремится вернуться с улучшенной модерацией контента с помощью ИИ.

Модерация контента с помощью ИИ

Поскольку алгоритмы искусственного интеллекта и компьютерного зрения стали более сложными и надежными, их приложения для обнаружения нежелательного контента улучшились. Это благо для любой компании, которая позволяет пользователям загружать или иным образом создавать контент. Такие компании, как Youtube, Facebook и Twitter. использовать алгоритмы фильтрации контента на основе искусственного интеллекта иметь дело с нежелательным материалом. Чатрулетка, в частности, когда-то страдала от наготы и других непристойных действий, которые отпугивали многих пользователей. Пандемия вызвала возобновление интереса к Chatroulette, который благодаря достижениям в области распознавания изображений с помощью искусственного интеллекта может более эффективно отслеживать контент, передаваемый пользователями.

В 2019 году основатель Chatroulette Андрей Терновский зарегистрировал компанию в Швейцарии, стремясь сотрудничать с профессиональными менеджерами и специалистами в области искусственного интеллекта. Эксперт по машинному обучению Эндрю Дон был нанят Терновским для наблюдения за разработкой технологии искусственного интеллекта для новой Chatroulette. Ранее в этом году Дон стал генеральным директором, пополнив команду новыми исследователями продуктов и менеджерами.

Под новым руководством Chatroulette использовала увеличение трафика для проведения исследований пользователей и тестирования различных методов модерации контента. Команда Chatroulette разработала два новых канала чата. Один канал чата называется «Случайный чат», который предназначен для исключения нежелательного контента, а другой канал называется «Немодерируемый». Это разделение сделано для того, чтобы привлечь пользователей, заинтересованных в общении с другими людьми, не беспокоясь о нежелательном содержании. Нефильтрованный канал в конечном итоге будет ликвидирован в середине 2021 года.

Партнерство с ИИ-компанией Hive

Chatroulette стала партнером компании AI Hive разработать ИИ для обнаружения наготы. Hive также отвечает за модерацию контента Reddit, предоставляя им опыт управления контентом в крупной социальной сети. По словам Done, система мониторинга ИИ Hive настолько точна, что включение модераторов-людей фактически снижает точность модерации в целом. Hive обучает модели ИИ на данных, аннотированных более чем 2 миллионами распределенных сотрудников. Распределенная рабочая сила ищет нежелательный контент, такой как нагота и наличие огнестрельного оружия, аннотируя изображения для использования при обучении ИИ Улья. Хотя Chatroulette пыталась использовать систему искусственного интеллекта Google Cloud Vision и Amazon Rekognition для помощи в модерации контента, в конечном итоге она обнаружила, что искусственный интеллект Hive является наиболее точным и надежным для ее нужд.

ИИ Hive обработал более 600 миллионов кадров видео из Chatroulette. Любое соединение между двумя пользователями приводит к созданию трех кадров. Один кадр создается для обоих пользователей в начале соединения, и один кадр создается для пользователя, завершающего соединение. Сообщается, что контент, нарушающий условия, может быть идентифицирован в течение одной секунды. Предупреждающее сообщение отправляется модератору-человеку, который может либо заблокировать, либо предупредить пользователя.

В начале года у Chatroulette было около 4 миллионов уникальных посетителей в месяц, что является наибольшим количеством посетителей, которое было у компании с начала 2016 года. Усилия по обузданию непристойного контента, похоже, окупились, поскольку сейчас женщины составляют примерно 34% посетителей. всех пользователей, по сравнению с 11% пользователей в 2018 году.

В то время как компании, работающие в социальных сетях, приходят и уходят, Chatroulette, кажется, снова занял видное место. Однако Терновский признает, что у компании есть и другие проблемы, которые нужно решить, помимо модерации контента. По словам Терновского, почти 90% новых посетителей никогда не возвращаются, так как считают свое взаимодействие посредственным.

«На самом деле задача состоит в том, чтобы создать что-то стоящее, что заинтересует людей, чтобы использовать его на регулярной основе, а не просто разовое использование». объяснил Терновский через Wired.