Chatroulette се завръща с помощта на AI управлявано модериране на съдържание

Chatroulette стана известен в началото на 2010 г. с това, че позволява на хората да говорят с други, произволни хора. Сайтът обаче също стана скандален поради лекотата, с която хората можеха да се натъкнат на голота и друго съдържание с „R-рейтинг“. Както съобщава Wired, Chatroulette сега се стреми към направи завръщане с по-добро модериране на съдържанието, подпомогнато от AI.

Модериране на съдържание, управлявано от AI

Тъй като алгоритмите за изкуствен интелект и компютърно зрение станаха по-сложни и надеждни, техните приложения за откриване на нежелателно съдържание се подобриха. Това е предимство за всяка компания, която позволява на потребителите да качват или по друг начин да създават съдържание. Компании като Youtube, Facebook и Twitter използват базирани на AI алгоритми за филтриране на съдържание да се боравят с нежелателни материали. По-специално Chatroulette някога беше засегнат от голота и други неприлични действия, които прогониха много потребители. Пандемията предизвика подновен интерес към Chatroulette, който благодарение на напредъка в AI разпознаването на изображения може по-ефективно да наблюдава съдържанието, предавано от потребителите.

През 2019 г. основателят на Chatroulette Андрей Терновски учреди компанията в Швейцария, целяйки да си сътрудничи с професионални мениджъри и специалисти по изкуствен интелект. Експертът по машинно обучение Андрю Доун беше нает от Ternovskiy да наблюдава разработването на AI технология за новата Chatroulette. Done стана главен изпълнителен директор по-рано тази година, добавяйки повече продуктови изследователи и мениджъри към екипа.

Под новото ръководство Chatroulette се възползва от увеличаването на трафика, за да проведе потребителско проучване и да тества различни методи за модериране на съдържание. Екипът на Chatroulette създаде два нови канала за чат. Единият канал за чат се нарича Случаен чат, който е предназначен да изключва нежелателно съдържание, докато другият канал се нарича Немодериран. Това разделение се прави, за да се привлекат потребители, които се интересуват от свързване с други хора, без да е необходимо да се притеснявате за нежелателно съдържание. Нефилтрираният канал в крайна сметка ще бъде премахнат в средата на 2021 г.

Партньорство с AI Company Hive

Chatroulette си партнира с AI компания Кошер за разработване на AI за откриване на голота. Hive също отговаря за модерирането на съдържанието на Reddit, което им дава опит с управлението на съдържание в голяма социална мрежа. Според Done системата за наблюдение на AI на Hive е толкова точна, че включването на човешки модератори всъщност влошава точността на модерирането като цяло. Hive обучава AI модели на данни, анотирани от работна сила от над 2 милиона разпределени работници. Разпределената работна сила търси нежелано съдържание като голота и наличие на огнестрелни оръжия, като анотира изображенията за използване при обучението на Hive AI. Докато Chatroulette се опита да използва системата на Google Cloud Vision AI и Amazon Rekognition, за да помогне при модерирането на съдържанието, в крайна сметка установи, че AI на Hive е най-точният и надежден за нейните нужди.

AI на Hive е обработил над 600 милиона кадъра видео от Chatroulette. Всяка връзка между двама потребители води до създаване на три кадъра. Една рамка се създава за двамата потребители в началото на връзката и една рамка се генерира за потребителя, който прекратява връзката. Съобщава се, че съдържание, което нарушава условията, може да бъде идентифицирано в рамките на една секунда. Изпраща се предупредително съобщение до модератор, който може или да забрани, или да предупреди потребителя.

В началото на годината Chatroulette имаше приблизително 4 милиона уникални посетители на месец, което е най-много посетители, които компанията е имала от началото на 2016 г. Усилията за ограничаване на нецензурното съдържание изглежда са дали резултат, тъй като жените вече са приблизително 34% от всички потребители, спрямо само 11% от потребителите през 2018 г.

Докато компаниите за социални медии идват и си отиват, Chatroulette изглежда отново се издигна до известно място. Терновски обаче признава, че компанията има и други проблеми за решаване извън просто модерирането на съдържанието. Според Ternovskiy, почти 90% от посетителите за първи път никога не се връщат, тъй като намират взаимодействието си за посредствено.

„Предизвикателството наистина е да се изгради нещо достойно, което да накара хората да се заинтересуват повече да го използват редовно, вместо да бъде просто еднократно нещо,“ обясни Терновски чрез Wired.