Chatroulette powraca z pomocą moderacji treści opartej na sztucznej inteligencji

Chatroulette zasłynął na początku 2010 roku dzięki umożliwieniu ludziom rozmowy z innymi, przypadkowymi osobami. Jednak witryna zyskała również niesławę ze względu na łatwość, z jaką ludzie mogli spotkać się z nagością i innymi treściami z oceną „R”. Jak donosi Wired, Chatroulette ma teraz na celu wróć z lepszą moderacją treści wspomaganą przez sztuczną inteligencję.

Moderacja treści oparta na sztucznej inteligencji

W miarę jak algorytmy sztucznej inteligencji i widzenia komputerowego stały się bardziej wyrafinowane i niezawodne, udoskonalono ich zastosowania do wykrywania niepożądanych treści. Jest to dobrodziejstwo dla każdej firmy, która umożliwia użytkownikom przesyłanie lub tworzenie treści w inny sposób. Firmy takie jak Youtube, Facebook i Twitter wykorzystują algorytmy filtrowania treści oparte na sztucznej inteligencji do radzić sobie z nieodpowiednim materiałem. Szczególnie Chatroulette był kiedyś nękany nagością i innymi nieprzyzwoitymi czynnościami, które odstraszyły wielu użytkowników. Pandemia spowodowała ponowne zainteresowanie Chatroulette, które dzięki postępom w rozpoznawaniu obrazów AI może skuteczniej monitorować treści przesyłane strumieniowo przez użytkowników.

W 2019 roku założyciel Chatroulette, Andrey Ternovskiy, założył firmę w Szwajcarii, mając na celu współpracę z profesjonalnymi menedżerami i specjalistami AI. Ekspert ds. uczenia maszynowego Andrew Done został zatrudniony przez Ternovskiy do nadzorowania rozwoju technologii sztucznej inteligencji dla nowego Chatroulette. Done został dyrektorem generalnym na początku tego roku, dodając do zespołu kolejnych badaczy produktów i menedżerów.

Pod nowym kierownictwem Chatroulette wykorzystał wzrost ruchu do przeprowadzenia badań użytkowników i przetestowania różnych metod moderowania treści. Zespół Chatroulette zaprojektował dwa nowe kanały czatu. Jeden kanał czatu nazywa się Random Chat i ma na celu wykluczanie niepożądanych treści, podczas gdy drugi kanał nazywa się Unmoderated. Podział ten ma na celu przyciągnięcie użytkowników zainteresowanych kontaktem z innymi ludźmi bez konieczności martwienia się o niepożądane treści. Kanał niefiltrowany zostanie ostatecznie wyeliminowany w połowie 2021 r.

Partnerstwo z firmą AI Hive

Chatroulette nawiązał współpracę z firmą AI Ul w celu opracowania sztucznej inteligencji wykrywającej nagość. Hive jest również odpowiedzialny za moderowanie treści Reddit, dając im doświadczenie w zarządzaniu treściami w dużej sieci społecznościowej. Według Done system monitorowania sztucznej inteligencji Hive jest tak dokładny, że włączenie ludzkich moderatorów w rzeczywistości pogarsza ogólną dokładność moderacji. Hive szkoli modele sztucznej inteligencji na danych opatrzonych adnotacjami przez ponad 2 miliony rozproszonych pracowników. Rozproszeni pracownicy wyszukują niepożądane treści, takie jak nagość i obecność broni palnej, i dopisują obrazy do wykorzystania w szkoleniu sztucznej inteligencji Hive. Chociaż Chatroulette próbował wykorzystać system Google Cloud Vision AI i Amazon Rekognition do pomocy w moderowaniu treści, ostatecznie stwierdził, że sztuczna inteligencja Hive jest najdokładniejsza i niezawodna w stosunku do jego potrzeb.

Sztuczna inteligencja Hive przetworzyła ponad 600 milionów klatek wideo z Chatroulette. Każde połączenie pomiędzy dwoma użytkownikami skutkuje utworzeniem trzech ramek. Na początku połączenia tworzona jest jedna ramka dla obu użytkowników i druga dla użytkownika kończącego połączenie. Według doniesień treści naruszające warunki można zidentyfikować w ciągu jednej sekundy. Wiadomość ostrzegawcza jest wysyłana do moderatora, który może zablokować użytkownika lub ostrzec go.

Na początku roku Chatroulette odwiedzało około 4 miliony unikalnych użytkowników miesięcznie, co stanowi najwięcej odwiedzin firmy od początku 2016 roku. Wydaje się, że wysiłki mające na celu ograniczenie nieprzyzwoitych treści opłaciły się, ponieważ kobiety stanowią obecnie około 34% wszystkich użytkowników, w porównaniu z zaledwie 11% użytkowników w 2018 r.

Podczas gdy firmy z branży mediów społecznościowych przychodzą i odchodzą, wydaje się, że Chatroulette ponownie zyskało na znaczeniu. Ternovskiy przyznaje jednak, że poza moderowaniem treści firma ma także inne problemy do rozwiązania. Według Ternovskiego prawie 90% osób odwiedzających witrynę po raz pierwszy nigdy nie wraca, ponieważ uważają, że ich interakcje są przeciętne.

„Wyzwaniem tak naprawdę jest zbudowanie czegoś wartościowego, co sprawi, że ludzie będą bardziej zainteresowani regularnym używaniem tego, a nie tylko jednorazową rzeczą” wyjaśnił Ternovskiy za pośrednictwem Wired.