Chatroulette Powraca Z Pomocą Moderacji Treści Opartej Na Sztucznej Inteligencji

Chatroulette zdobył sławę na początku lat 2010-tych, pozwalając ludziom rozmawiać z innymi, losowymi osobami. Jednak strona ta stała się również znana z powodu łatwości, z jaką ludzie mogli napotkać na treści nieodpowiednie i “R-rated”. Jak donosi Wired, Chatroulette teraz stara się odzyskać dawną popularność dzięki lepszej moderacji treści wspomaganej przez sztuczną inteligencję.

Moderacja Treści Oparta Na Sztucznej Inteligencji

Wraz ze wzrostem zaawansowania i niezawodności algorytmów sztucznej inteligencji i rozpoznawania obrazu, ich zastosowania w wykrywaniu nieodpowiednich treści również się poprawiły. Jest to korzystne dla każdej firmy, która pozwala użytkownikom na przesyłanie lub tworzenie treści. Firmy takie jak Youtube, Facebook (META ) i Twitter wykorzystują algorytmy filtracji treści oparte na sztucznej inteligencji, aby radzić sobie z nieodpowiednim materiałem. Chatroulette w szczególności był kiedyś nawiedzany przez treści nieodpowiednie i obsceniczne, które odstraszały wielu użytkowników. Pandemia spowodowała odnowiony zainteresowanie Chatroulette, które dzięki postępom w rozpoznawaniu obrazu może skuteczniej monitorować treści przesyłane przez użytkowników.

W 2019 roku założyciel Chatroulette, Andrey Ternovskiy, zarejestrował firmę w Szwajcarii, aby współpracować z profesjonalnymi menedżerami i specjalistami od sztucznej inteligencji. Ekspert od uczenia maszynowego, Andrew Done, został zatrudniony przez Ternovskiy, aby nadzorować rozwój technologii sztucznej inteligencji dla nowego Chatroulette. Done został CEO na początku tego roku, dodając do zespołu więcej badaczy produktów i menedżerów.

Pod nowym kierownictwem Chatroulette wykorzystał wzrost ruchu, aby przeprowadzić badania użytkowników i przetestować różne metody moderacji treści. Zespół Chatroulette zaprojektował dwa nowe kanały czatu. Jeden kanał czatu nazywa się Losowy Czat, który jest zaprojektowany tak, aby wykluczyć treści nieodpowiednie, podczas gdy drugi kanał nazywa się Niezmoderowany. Ten podział jest robiony w celu przyciągnięcia użytkowników zainteresowanych łączeniem się z innymi ludźmi bez potrzeby martwienia się o treści nieodpowiednie. Kanał niezmoderowany zostanie ostatecznie wyeliminowany w połowie 2021 roku.

Partnerstwo Z Firmą Sztucznej Inteligencji Hive

Chatroulette nawiązał partnerstwo z firmą sztucznej inteligencji Hive, aby rozwijać sztuczną inteligencję do wykrywania treści nieodpowiednich. Hive jest również odpowiedzialny za moderowanie treści na Reddit, co daje im doświadczenie w zarządzaniu treścią na dużych sieciach społecznościowych. Według Done, system monitorowania sztucznej inteligencji Hive jest tak dokładny, że włączanie moderatorów ludzkich faktycznie obniża dokładność moderacji. Hive szkoli modele sztucznej inteligencji na danych opatrzonych przez siłę roboczą ponad 2 milionów rozproszonych pracowników. Rozproszona siła robocza szuka treści nieodpowiednich, takich jak treści obsceniczne i broń, opatrując obrazy do użycia w szkoleniu sztucznej inteligencji Hive. Podczas gdy Chatroulette próbował korzystać z systemu Cloud Vision AI od Google i Amazon (AMZN ) Rekognition, aby pomóc w moderacji treści, ostatecznie stwierdzono, że sztuczna inteligencja Hive była najdokładniejsza i najbardziej niezawodna dla ich potrzeb.

Sztuczna inteligencja Hive przetworzyła ponad 600 milionów klatek wideo z Chatroulette. Każde połączenie między dwoma użytkownikami powoduje utworzenie trzech klatek. Jedna klatka jest tworzona dla obu użytkowników na początku połączenia, a jedna klatka jest generowana dla użytkownika, który kończy połączenie. Treści, które naruszają warunki, mogą być identyfikowane w ciągu jednej sekundy. Wiadomość alarmowa jest wysyłana do moderatora ludzkiego, który może albo zbanować, albo ostrzec użytkownika.

Na początku roku Chatroulette miał około 4 milionów unikalnych odwiedzających miesięcznie, co jest największą liczbą odwiedzających, jaką miał od wczesnych lat 2016. Wysiłki, aby ograniczyć treści obsceniczne, wydają się opłacalne, ponieważ kobiety stanowią teraz około 34% wszystkich użytkowników, w porównaniu z zaledwie 11% użytkowników w 2018 roku.

Pomimo tego, że firmy mediów społecznościowych pojawiają się i znikają, Chatroulette wydaje się odzyskać dawną pozycję. Jednak Ternovskiy przyznaje, że firma ma również inne problemy do rozwiązania poza moderacją treści. Według Ternovskiy, prawie 90% pierwszych odwiedzających nigdy nie wraca, ponieważ znajdują swoje interakcje jako przeciętne.

„Wyzwanie polega na tym, aby zbudować coś wartego, co przyciągnie ludzi do korzystania z niego regularnie, a nie tylko jako rzecz jednorazową” – wyjaśnił Ternovskiy w rozmowie z Wired.