Chatroulette återvänder med hjälp av AI-driven innehållsmoderering

Chatroulette blev känd under början av 2010-talet för att låta människor prata med andra, slumpmässiga människor. Men sajten blev också ökända på grund av hur lätt folk kunde stöta på nakenhet och annat "R-klassat" innehåll. Som rapporterats av Wired, siktar Chatroulette nu på göra en comeback med bättre innehållsmoderering med hjälp av AI.

AI-driven innehållsmoderering

Allt eftersom AI- och datorseendealgoritmer har blivit mer sofistikerade och tillförlitliga, har deras applikationer för att upptäcka stötande innehåll förbättrats. Detta är en välsignelse för alla företag som tillåter användare att ladda upp eller på annat sätt skapa innehåll. Företag som Youtube, Facebook och Twitter använda AI-drivna innehållsfiltreringsalgoritmer till ta itu med stötande material. Särskilt Chatroulette plågades en gång av nakenhet och andra obscena handlingar som drev bort många användare. Pandemin har orsakat förnyat intresse för Chatroulette, som tack vare framstegen inom AI-bildigenkänning mer effektivt kan övervaka innehåll som streamas av användare.

2019 införlivade Chatroulette-grundaren Andrey Ternovskiy företaget i Schweiz, i syfte att samarbeta med professionella chefer och AI-specialister. Maskininlärningsexperten Andrew Done anlitades av Ternovskiy för att övervaka utvecklingen av AI-teknik för den nya Chatroulette. Done blev VD tidigare i år, och lade till fler produktforskare och chefer till teamet.

Under den nya ledningen använde Chatroulette trafikökningen för att genomföra användarundersökningar och testa olika metoder för att moderera innehåll. Chatroulette-teamet designade två nya chattkanaler. En chattkanal heter Random Chat, som är utformad för att utesluta stötande innehåll, medan den andra kanalen heter Unmoderated. Denna uppdelning görs för att locka användare som är intresserade av att få kontakt med andra människor utan att behöva oroa sig för stötande innehåll. Den ofiltrerade kanalen kommer så småningom att tas bort i mitten av 2021.

Partnerskap med AI Company Hive

Chatroulette har samarbetat med AI-företag Bikupa att utveckla nakenhetsupptäckande AI. Hive är också ansvarig för att moderera Reddit-innehåll, vilket ger dem erfarenhet av att hantera innehåll på ett stort socialt nätverk. Enligt Done är Hives AI-övervakningssystem så exakt att inkludering av mänskliga moderatorer faktiskt försämrar noggrannheten av moderering totalt sett. Hive tränar AI-modeller på data kommenterad av en arbetsstyrka på över 2 miljoner distribuerade arbetare. Den distribuerade arbetsstyrkan letar efter stötande innehåll som nakenhet och förekomsten av skjutvapen, och kommenterar bilderna för att träna Hive AI. Medan Chatroulette försökte använda Googles Cloud Vision AI-system och Amazon Rekognition för att hjälpa till med innehållsmoderering, fann den till slut att Hives AI var den mest exakta och pålitliga för dess behov.

Hives AI har bearbetat över 600 miljoner bildrutor med video från Chatroulette. Varje koppling mellan två användare resulterar i att tre ramar skapas. En ram skapas för båda användarna i början av anslutningen och en ram skapas för användaren som avslutar anslutningen. Innehåll som bryter mot villkor kan enligt uppgift identifieras inom en enda sekund. Ett varningsmeddelande skickas ut till en mänsklig moderator som antingen kan blockera eller varna användaren.

I början av året hade Chatroulette cirka 4 miljoner unika besökare i månaden, vilket är de flesta besökare företaget haft sedan början av 2016. Ansträngningarna att stävja obscent innehåll verkar ha gett resultat, eftersom kvinnor nu är cirka 34 % av alla användare, upp från bara 11 % av användarna 2018.

Medan sociala medieföretag kommer och går, verkar Chatroulette åter ha tagit sig till en framträdande plats. Ternovskiy erkänner dock att företaget också har andra problem att lösa utöver bara innehållsmoderering. Enligt Ternovskiy återvänder nästan 90 % av förstagångsbesökarna aldrig, eftersom de tycker att deras interaktioner är medelmåttiga.

"Utmaningen är verkligen att bygga något värdigt som skulle få folk mer intresserade av att använda det regelbundet snarare än att det bara är en engångssak," förklarade Ternovskiy via Wired.