Chatroulette Возвращается С Помощью ИИ-Управляемой Модерации Контента

Chatroulette стал знаменитым в начале 2010-х годов за то, что позволял людям общаться с другими, случайными людьми. Однако сайт также стал печально известным из-за легкости, с которой люди могли столкнуться с обнаженностью и другими “р-рейтинговыми” контентами. Как сообщает Wired, Chatroulette теперь стремится вернуться с лучшей модерацией контента, используя ИИ.

ИИ-Управляемая Модерация Контента

По мере того, как алгоритмы ИИ и компьютерного зрения становятся более совершенными и надежными, их применение для обнаружения нежелательного контента улучшается. Это является благом для любой компании, которая позволяет пользователям загружать или создавать контент. Компании như Youtube, Facebook (META ) и Twitter используют алгоритмы фильтрации контента на основе ИИ для борьбы с нежелательным материалом. Chatroulette в частности когда-то был поражен обнаженностью и другими непристойными актами, которые отпугнули многих пользователей. Пандемия вызвала возобновленный интерес к Chatroulette, который благодаря достижениям в распознавании изображений ИИ может более эффективно контролировать контент, передаваемый пользователями.

В 2019 году основатель Chatroulette Андрей Терновский зарегистрировал компанию в Швейцарии, стремясь сотрудничать с профессиональными менеджерами и специалистами по ИИ. Эксперт по машинному обучению Эндрю Дон был нанят Терновским для надзора за разработкой технологии ИИ для нового Chatroulette. Дон стал генеральным директором в начале этого года, добавив в команду больше исследователей продуктов и менеджеров.

Под новым руководством Chatroulette использовал рост трафика для проведения исследований пользователей и тестирования различных методов модерации контента. Команда Chatroulette разработала два новых чат-канала. Один чат-канал называется Случайный Чат, который предназначен для исключения нежелательного контента, а другой канал называется Немодерируемый. Это разделение осуществляется для привлечения пользователей, интересующихся связью с другими людьми без необходимости беспокоиться о нежелательном контенте. Немодерируемый канал в конечном итоге будет исключен в середине 2021 года.

Партнерство С Компанией ИИ Hive

Chatroulette сотрудничает с компанией ИИ Hive для разработки ИИ, обнаруживающих обнаженность. Hive также отвечает за модерацию контента Reddit, что дает им опыт управления контентом в крупной социальной сети. Согласно Дону, система мониторинга ИИ Hive настолько точна, что включение человеческих модераторов фактически снижает точность модерации. Hive обучает модели ИИ на данных, аннотированных рабочей силой более 2 миллионов распределенных работников. Распределенная рабочая сила ищет нежелательный контент, такой как обнаженность и присутствие огнестрельного оружия, аннотируя изображения для использования в обучении ИИ Hive. Хотя Chatroulette пытался использовать систему ИИ Cloud Vision от Google и Amazon (AMZN ) Rekognition для помощи в модерации контента, в конечном итоге они обнаружили, что ИИ Hive был наиболее точным и надежным для их потребностей.

ИИ Hive обработал более 600 миллионов кадров видео из Chatroulette. Любое соединение между двумя пользователями приводит к созданию трех кадров. Один кадр создается для обоих пользователей в начале соединения, и один кадр генерируется для пользователя, который завершает соединение. Контент, нарушающий условия, якобы может быть выявлен в течение одной секунды. Выдается предупреждающее сообщение человеческому модератору, который может либо заблокировать, либо предупредить пользователя.

В начале года Chatroulette имел примерно 4 миллиона уникальных посетителей в месяц, что является наибольшим количеством посетителей, которое компания имела с начала 2016 года. Усилия по ограничению непристойного контента, кажется, оправдались, поскольку женщины теперь составляют примерно 34% всех пользователей, по сравнению с 11% пользователей в 2018 году.

Хотя социальные медиа-компании приходят и уходят, Chatroulette, кажется, вернулся к своему прежнему положению. Однако Терновский признает, что компании также есть другие проблемы, которые необходимо решить, помимо модерации контента. Согласно Терновскому, почти 90% первых посетителей никогда не возвращаются, поскольку находят свои взаимодействия посредственными.

«Вызов действительно заключается в создании чего-то достойного, что сделало бы людей более заинтересованными в использовании его на регулярной основе, а не только как одноразовую вещь», объяснил Терновский через Wired.