Chatroulette sa vracia s pomocou moderovania obsahu riadeného AI

Chatroulette sa preslávila začiatkom roku 2010 tým, že umožnila ľuďom hovoriť s inými náhodnými ľuďmi. Stránka sa však stala neslávne známou aj vďaka tomu, s akou ľahkosťou sa ľudia mohli stretnúť s nahotou a iným obsahom s hodnotením „R“. Ako informoval Wired, Chatroulette sa teraz zameriava na vrátiť sa s lepším moderovaním obsahu pomocou AI.

Moderovanie obsahu riadené AI

Keďže AI a algoritmy počítačového videnia sa stali sofistikovanejšími a spoľahlivejšími, zlepšili sa aj ich aplikácie na detekciu nežiaduceho obsahu. Je to prínos pre každú spoločnosť, ktorá používateľom umožňuje nahrávať alebo inak vytvárať obsah. Spoločnosti ako Youtube, Facebook a Twitter využívajú algoritmy filtrácie obsahu poháňané AI vysporiadať sa s nevhodným materiálom. Najmä Chatroulette bola kedysi sužovaná nahotou a inými obscénnymi činmi, ktoré odohnali mnohých používateľov. Pandémia spôsobila obnovený záujem o Chatroulette, ktorá vďaka pokroku v rozpoznávaní obrázkov AI dokáže efektívnejšie monitorovať obsah streamovaný používateľmi.

V roku 2019 zakladateľ Chatroulette Andrey Ternovskiy založil spoločnosť vo Švajčiarsku s cieľom spolupracovať s profesionálnymi manažérmi a špecialistami na AI. Expert na strojové učenie Andrew Done bol najatý Ternovskiy, aby dohliadal na vývoj technológie AI pre novú Chatroulette. Done sa stal generálnym riaditeľom začiatkom tohto roka a pridal do tímu ďalších produktových výskumníkov a manažérov.

Pod novým vedením Chatroulette využila zvýšenie návštevnosti na vykonanie používateľského prieskumu a testovanie rôznych metód moderovania obsahu. Tím Chatroulette navrhol dva nové chatovacie kanály. Jeden kanál chatu sa nazýva Random Chat, ktorý je navrhnutý tak, aby vylúčil nevhodný obsah, zatiaľ čo druhý kanál sa nazýva nemoderovaný. Toto rozdelenie sa uskutočňuje s cieľom prilákať používateľov, ktorí sa zaujímajú o spojenie s inými ľuďmi bez toho, aby sa museli obávať nevhodného obsahu. Nefiltrovaný kanál bude nakoniec odstránený v polovici roku 2021.

Partnerstvo s AI Company Hive

Chatroulette sa spojila so spoločnosťou AI Úľ rozvíjať AI na detekciu nahoty. Hive je tiež zodpovedný za moderovanie obsahu Reddit, vďaka čomu majú skúsenosti so správou obsahu na veľkej sociálnej sieti. Podľa Done je monitorovací systém AI spoločnosti Hive taký presný, že zahrnutie ľudských moderátorov v skutočnosti celkovo znižuje presnosť moderovania. Hive trénuje modely AI na údajoch anotovaných pracovnou silou viac ako 2 miliónov distribuovaných pracovníkov. Distribuovaná pracovná sila hľadá nevhodný obsah, ako je nahota a prítomnosť strelných zbraní, a komentuje obrázky na použitie pri výcviku umelej inteligencie Hive. Zatiaľ čo sa Chatroulette pokúšal použiť systém AI Cloud Vision spoločnosti Google a Amazon Rekognition na pomoc pri moderovaní obsahu, nakoniec zistil, že AI spoločnosti Hive je pre jej potreby najpresnejšia a najspoľahlivejšia.

Umelá inteligencia Hive spracovala viac ako 600 miliónov snímok videa z Chatroulette. Akékoľvek spojenie medzi dvoma používateľmi má za následok vytvorenie troch rámcov. Jeden rámec sa vytvorí pre oboch používateľov na začiatku pripojenia a jeden rámec sa vygeneruje pre používateľa, ktorý pripojenie ukončí. Obsah, ktorý porušuje podmienky, možno údajne identifikovať v priebehu jednej sekundy. Výstražná správa sa odošle ľudskému moderátorovi, ktorý môže používateľa zakázať alebo varovať.

Začiatkom roka mala Chatroulette približne 4 milióny jedinečných návštevníkov mesačne, čo je najviac návštevníkov, ktoré spoločnosť mala od začiatku roka 2016. Zdá sa, že snaha obmedziť obscénny obsah sa vyplatila, keďže v súčasnosti tvoria ženy približne 34 % všetkých používateľov, oproti iba 11 % používateľov v roku 2018.

Zatiaľ čo spoločnosti sociálnych médií prichádzajú a odchádzajú, zdá sa, že Chatroulette sa opäť dostala na popredné miesto. Ternovskiy však uznáva, že spoločnosť má okrem moderovania obsahu riešiť aj iné problémy. Podľa Ternovského sa takmer 90 % prvých návštevníkov nikdy nevráti, pretože ich interakcie považujú za priemerné.

„Skutočnou výzvou je postaviť niečo hodnotné, čo by ľudí viac zaujímalo, aby to používali pravidelne, než aby to bola len jednorazová vec,“ vysvetlil Ternovskiy cez Wired.