Chatroulette se vrací s pomocí umělé inteligence pro moderování obsahu

Chatroulette se stal slavným na počátku roku 2010 tím, že umožňoval lidem mluvit s jinými, náhodnými lidmi. Nicméně, stránky se také staly známými kvůli snadnému způsobu, jakým lidé mohli narazit na nahotu a jiné “R-rated” obsah. Jak uvádí Wired, Chatroulette nyní cílí na to, aby zpět na scénu s lepší moderací obsahu pomocí umělé inteligence.

Umělé inteligence pro moderování obsahu

Jak se algoritmy umělé inteligence a počítačového vidění staly více sofistikovanými a spolehlivými, jejich aplikace pro detekci závadného obsahu se zlepšily. To je přínosem pro jakoukoli společnost, která umožňuje uživatelům nahrávat nebo jinak vytvářet obsah. Společnosti jako Youtube, Facebook a Twitter používají algoritmy umělé inteligence pro filtrování obsahu k řešení závadného materiálu. Chatroulette byl zvláště postižen nahotou a jinými obscénními akty, které odehnaly mnoho uživatelů. Pandemie způsobila obnovený zájem o Chatroulette, který díky pokrokům v rozpoznávání obrazů umělé inteligence může účinněji monitorovat obsah streamovaný uživateli.

V roce 2019 založil zakladatel Chatroulette Andrey Ternovskiy společnost ve Švýcarsku, s cílem spolupracovat s profesionálními manažery a odborníky na umělou inteligenci. Odborník na strojové učení Andrew Done byl najat Ternovskijem, aby dohlížel na vývoj technologie umělé inteligence pro nový Chatroulette. Done se stal generálním ředitelem na počátku tohoto roku a přidával další produktové výzkumníky a manažery do týmu.

Pod novým vedením Chatroulette využil nárůst návštěvnosti k provedení uživatelského výzkumu a testování různých metod moderování obsahu. Tým Chatroulette navrhl dva nové chatovací kanály. Jeden chatovací kanál se nazývá Random Chat, který je navržen tak, aby vyloučil závadný obsah, zatímco druhý kanál se nazývá Unmoderated. Tento rozdělení je děláno za účelem přilákání uživatelů, kteří se zajímají o spojení s jinými lidmi bez nutnosti starat se o závadný obsah. Ne filtrovaný kanál bude nakonec zrušen v polovině roku 2021.

Partnerství se společností Hive

Chatroulette se spojil se společností Hive na vývoj umělé inteligence pro detekci nahoty. Hive je také zodpovědný za moderování obsahu Reddit, což jim dává zkušenosti s řízením obsahu na velké sociální síti. Podle Doneho je systém umělé inteligence Hive tak přesný, že zahrnutí lidských moderátorů ve skutečnosti snižuje přesnost moderování. Hive trénuje modely umělé inteligence na datech anotovaných pracovníky o počtu přes 2 miliony distribuovaných pracovníků. Distribuovaný pracovní tým hledá závadný obsah, jako je nahota a přítomnost střelných zbraní, a anotuje obrázky pro použití při trénování umělé inteligence Hive. Zatímco Chatroulette zkusil používat systém umělé inteligence Google Cloud Vision a Amazon Rekognition pro pomoc při moderování obsahu, nakonec zjistil, že umělé inteligence Hive je nejpreciznější a nejspolehlivější pro jeho potřeby.

Umělé inteligence Hive zpracovala přes 600 milionů snímků videa z Chatroulette. Každé spojení mezi dvěma uživateli vede k vytvoření tří snímků. Jeden snímek je vytvořen pro oba uživatele na začátku spojení a jeden snímek je generován pro uživatele, který ukončí spojení. Obsah, který porušuje podmínky, může být údajně identifikován do jedné sekundy. Upozornění je odesláno lidskému moderátorovi, který může buď zakázat nebo varovat uživatele.

Na počátku roku měl Chatroulette přibližně 4 miliony unikátních návštěvníků měsíčně, což je nejvíce návštěvníků, které společnost měla od počátku roku 2016. Úsilí o potlačení obscénního obsahu se zdá být účinné, protože ženy nyní tvoří přibližně 34 % všech uživatelů, oproti 11 % uživatelů v roce 2018.

Zatímco sociální média společnosti přicházejí a odcházejí, Chatroulette se zdá být opět na místě prominence. Nicméně, Ternovskiy uznává, že společnost má také další problémy, které je třeba řešit, kromě pouze moderování obsahu. Podle Ternovskije téměř 90 % nových návštěvníků se nikdy nevrátí, protože považují své interakce za průměrné.

“Výzva skutečně spočívá v tom, aby se vytvořilo něco důstojného, co by lidi více zajímalo používat pravidelně, spíše než to, aby to byla jen jednorázová věc,” vyjádřil Ternovskij prostřednictvím Wired.