Чатрулет повертається завдяки модеруванню контенту з використанням штучного інтелекту

Чатрулет став відомим на початку 2010-х років завдяки можливості спілкуватися з випадковими людьми. Однак сайт також став відомим через легкість, з якою люди могли зустріти оголеність та інші “еротичні” контенти. За повідомленням Wired, Чатрулет зараз намагається зробити повернення з кращим модеруванням контенту за допомогою штучного інтелекту.

Модерування контенту з використанням штучного інтелекту

З часом, як алгоритми штучного інтелекту та комп’ютерного бачення стали більш досконалими та надійними, їх застосування для виявлення неприйнятного контенту покращилось. Це добра новина для будь-якої компанії, яка дозволяє користувачам завантажувати або створювати контент. Компанії, такі як Youtube, Facebook (META ) та Twitter, використовують алгоритми фільтрації контенту на основі штучного інтелекту для боротьби з неприйнятним матеріалом. Чатрулет зокрема раніше був засмучений оголеністю та іншими неприйнятними виступами, які відштовхнули багатьох користувачів. Пандемія спричинила відновлення інтересу до Чатрулету, який, завдяки вдосконаленню розпізнавання зображень штучним інтелектом, може більш ефективно контролювати контент, який транслюють користувачі.

У 2019 році засновник Чатрулету Андрій Терновський зареєстрував компанію у Швейцарії, маючи на меті співпрацювати з професійними менеджерами та спеціалістами штучного інтелекту. Експерт з машинного навчання Ендрю Дон був найнятий Терновським для нагляду за розробкою технології штучного інтелекту для нового Чатрулету. Дон став генеральним директором на початку цього року, додавши до команди更多 дослідників продукту та менеджерів.

Під новим керівництвом Чатрулет використав зростання трафіку для проведення досліджень користувачів та тестування різних методів модерування контенту. Команда Чатрулету розробила два нових чат-канали. Один чат-канал називається Рандомний чат, який призначений для виключення неприйнятного контенту, тоді як інший канал називається Немодерований. Це розділення здійснюється для приваблення користувачів, які цікавляться спілкуванням з іншими людьми без потреби хвилюватися про неприйнятний контент. Немодерований канал буде ліквідований у середині 2021 року.

Партнерство з компанією штучного інтелекту Hive

Чатрулет уклав партнерство з компанією штучного інтелекту Hive для розробки штучного інтелекту, який виявляє оголеність. Hive також відповідає за модерування контенту Reddit, маючи досвід управління контентом на великих соціальних мережах. За словами Дона, система моніторингу штучного інтелекту Hive настільки точна, що включення людських модераторів фактично погіршує точність модерування. Hive тренує моделі штучного інтелекту на даних, анотованих робочою силою понад 2 мільйонів розподілених працівників. Розподілена робоча сила шукає неприйнятний контент, такий як оголеність та присутність вогнепальної зброї, анотуючи зображення для використання у тренуванні штучного інтелекту Hive. Хоча Чатрулет спробував використовувати систему штучного інтелекту Cloud Vision від Google та Amazon (AMZN ) Rekognition для допомоги у модеруванні контенту, у підсумку вони виявили, що штучний інтелект Hive є найточнішим та надійним для їхніх потреб.

Штучний інтелект Hive обробив понад 600 мільйонів кадрів відео з Чатрулету. Будь-яке підключення між двома користувачами призводить до створення трьох кадрів. Один кадр створюється для обох користувачів на початку підключення, а інший кадр генерується для користувача, який завершує підключення. Контент, який порушує умови, можна виявити впродовж однієї секунди. Повідомлення про попередження надсилається людині-модератору, який може заблокувати або попередити користувача.

На початку року Чатрулет мав приблизно 4 мільйони унікальних відвідувачів на місяць, що є найбільшим показником відвідуваності компанії з початку 2016 року. Зусилля щодо припинення неприйнятного контенту, здається, дали результат, оскільки жінки зараз складають приблизно 34% усіх користувачів, у порівнянні з 11% у 2018 році.

Хоча соціальні медіа-компанії з’являються та зникають, Чатрулет, здається, повернувся до місця провідності знову. Однак Терновський визнає, що компанії також є інші питання, які потрібно вирішити, окрім модерування контенту. За словами Терновського, майже 90% нових відвідувачів ніколи не повертаються, оскільки вони вважають свої взаємодії посередніми.

«Виклик полягає у створенні чогось гідного, що б змусило людей більш цікавитися регулярним використанням, а не тим, що це просто одноразова річ», пояснив Терновський у інтерв’ю Wired.