Chatroulette se vrací s pomocí umělé inteligence pro moderování obsahu

Chatroulette se stal slavným na počátku roku 2010 tím, že umožňoval lidem mluvit s jinými, náhodnými lidmi. Nicméně, stránky se také staly známými kvůli snadnému způsobu, jakým lidé mohli narazit na nahotu a další “R-rated” obsah. Jak uvádí Wired, Chatroulette nyní cílí na comeback s lepší moderací obsahu pomocí umělé inteligence.

Umělé inteligence pro moderování obsahu

Jak se algoritmy umělé inteligence a počítačového vidění staly více sofistikovanými a spolehlivými, jejich aplikace pro detekci závadného obsahu se zlepšily. To je přínosem pro jakoukoli společnost, která umožňuje uživatelům nahrávat nebo jinak vytvářet obsah. Společnosti jako Youtube, Facebook (META ) a Twitter používají algoritmy pro filtrování obsahu pomocí umělé inteligence pro řešení závadného materiálu. Chatroulette byl dříve postižen nahotou a jinými obscénními akty, které odradily mnoho uživatelů. Pandemie způsobila obnovený zájem o Chatroulette, který díky pokrokům v rozpoznávání obrazu pomocí umělé inteligence může lépe monitorovat obsah streamovaný uživateli.

V roce 2019 založil zakladatel Chatroulette Andrey Ternovskiy společnost ve Švýcarsku, s cílem spolupracovat s profesionálními manažery a odborníky na umělou inteligenci. Odborník na strojové učení Andrew Done byl najat Ternovskim, aby dohlížel na vývoj technologie umělé inteligence pro nový Chatroulette. Done se stal generálním ředitelem na počátku tohoto roku a přidával další produktové výzkumníky a manažery do týmu.

Pod vedením nového vedení Chatroulette využil nárůst provozu k provedení výzkumu uživatelů a testování různých metod moderování obsahu. Tým Chatroulette vytvořil dva nové chatovací kanály. Jeden chatový kanál se jmenuje Random Chat, který je navržen tak, aby vyloučil závadný obsah, zatímco druhý kanál se jmenuje Unmoderated. Tento rozdělení je děláno za účelem přilákání uživatelů, kteří se chtějí spojovat s jinými lidmi bez obav o závadný obsah. Neřízený kanál bude nakonec zrušen v polovině roku 2021.

Partnerství s firmou Hive pro umělou inteligenci

Chatroulette se spojil s firmou Hive pro umělou inteligenci, aby vyvinul detekční systémy pro nahotu. Hive je také zodpovědný za moderování obsahu na Redditu, což jim dává zkušenosti s řízením obsahu na velké sociální síti. Podle Donea je systém umělé inteligence Hive tak přesný, že zahrnutí lidských moderátorů ve skutečnosti snižuje přesnost moderování. Hive trénuje modely umělé inteligence na datech anotovaných pracovníky o počtu přes 2 miliony distribuovaných pracovníků. Distribuovaní pracovníci hledají závadný obsah, jako je nahota a přítomnost střelných zbraní, a anotují obrázky pro použití při trénování modelů umělé inteligence Hive. Zatímco Chatroulette zkusil použít systém Cloud Vision AI od Google a Amazon (AMZN ) Rekognition pro pomoc s moderováním obsahu, nakonec zjistil, že systém umělé inteligence Hive je nejpreciznější a nejspolehlivější pro jeho potřeby.

Systém umělé inteligence Hive zpracoval přes 600 milionů snímků videa z Chatroulette. Každé spojení mezi dvěma uživateli vede k vytvoření tří snímků. Jeden snímek je vytvořen pro oba uživatele na začátku spojení a jeden snímek je vygenerován pro uživatele, který ukončí spojení. Obsah, který porušuje podmínky, může být údajně identifikován během jedné sekundy. Upozornění je odesláno lidskému moderátorovi, který může buď zakázat nebo varovat uživatele.

Na počátku roku měl Chatroulette přibližně 4 miliony unikátních návštěvníků měsíčně, což je nejvíce návštěvníků, které společnost měla od počátku roku 2016. Úsilí o potlačení obscénního obsahu se zdá být úspěšné, protože ženy nyní představují přibližně 34 % všech uživatelů, oproti 11 % uživatelů v roce 2018.

Zatímco sociální média přicházejí a odcházejí, Chatroulette se zdá být opět na místě prominence. Nicméně, Ternovskiy uznává, že společnost má i další problémy, které je třeba vyřešit, kromě pouze moderování obsahu. Podle Ternovskiho téměř 90 % nových návštěvníků se nikdy nevrátí, protože považují své interakce za průměrné.

„Výzva skutečně spočívá v tom, aby se vytvořilo něco důstojného, co by lidi více zajímalo používat pravidelně, a ne pouze jako jednorázovou věc,“ vyjádřil Ternovskiy prostřednictvím Wired.