Chatroulette Återvänder Med Hjälp Av AI-Driven Innehållsmoderering

Chatroulette blev berömt under det tidiga 2010-talet för att tillåta människor att prata med andra, slumpmässiga människor. Men webbplatsen blev också ökänd på grund av hur lätt det var för människor att stöta på nakenhet och annat “R-betygat” innehåll. Enligt Wired försöker Chatroulette nu göra en comeback med bättre innehållsmoderering med hjälp av AI.

AI-Driven Innehållsmoderering

Allteftersom AI och datorseendealgoritmer har blivit mer avancerade och tillförlitliga, har deras tillämpningar för att upptäcka stötande innehåll förbättrats. Detta är en välsignelse för alla företag som tillåter användare att ladda upp eller skapa innehåll på annat sätt. Företag som Youtube, Facebook (META ) och Twitter använder AI-drivna innehållsfiltreringsalgoritmer för att hantera stötande material. Chatroulette var särskilt tidigare plågat av nakenhet och andra obscena handlingar som drev bort många användare. Pandemin har orsakat ett förnyat intresse för Chatroulette, som tack vare framstegen inom AI-bildigenkänning nu kan övervaka innehåll som strömmas av användare mer effektivt.

2019 inkorporerade Chatroulettes grundare Andrey Ternovskiy företaget i Schweiz, i syfte att samarbeta med professionella chefer och AI-specialister. Maskinlärningsexperten Andrew Done anställdes av Ternovskiy för att övervaka utvecklingen av AI-teknik för den nya Chatroulette. Done blev VD tidigare i år och lade till fler produktforskare och chefer i teamet.

Under det nya ledarskapet utnyttjade Chatroulette den ökade trafiken för att genomföra användarundersökningar och testa olika metoder för att moderera innehåll. Chatroulette-teamet designade två nya chattkanaler. En chattkanal kallas Random Chat, som är utformad för att utesluta stötande innehåll, medan den andra kanalen kallas Unmoderated. Denna uppdelning görs för att locka användare som är intresserade av att ansluta till andra människor utan att behöva oroa sig för stötande innehåll. Den omodifierade kanalen kommer så småningom att elimineras mitt i 2021.

Samarbete Med AI-Företaget Hive

Chatroulette har samarbetat med AI-företaget Hive för att utveckla AI som kan upptäcka nakenhet. Hive ansvarar också för att moderera innehåll på Reddit, vilket ger dem erfarenhet av att hantera innehåll på ett stort socialt nätverk. Enligt Done är Hives AI-övervakningssystem så exakt att det faktiskt försämrar noggrannheten i modereringen om man inkluderar mänskliga moderatorer. Hive tränar AI-modeller på data som annoterats av en arbetsstyrka på över 2 miljoner distribuerade arbetare. Den distribuerade arbetsstyrkan letar efter stötande innehåll som nakenhet och närvaron av skjutvapen och annoterar bilderna för användning i utbildning av Hives AI. Medan Chatroulette försökte använda Googles Cloud Vision AI-system och Amazon (AMZN ) Rekognition för att assistera vid innehållsmoderering, fann de till slut att Hives AI var den mest exakta och tillförlitliga för deras behov.

Hives AI har bearbetat över 600 miljoner bildrutor från Chatroulette. Varje anslutning mellan två användare resulterar i att tre bildrutor skapas. En bildruta skapas för båda användarna i början av anslutningen och en bildruta genereras för den användare som avslutar anslutningen. Innehåll som bryter mot villkoren kan identifieras inom en sekund. Ett varningsmeddelande skickas till en mänsklig moderator som kan antingen förbjuda eller varna användaren.

I början av året hade Chatroulette cirka 4 miljoner unika besökare per månad, vilket är det största antalet besökare företaget har haft sedan början av 2016. Försöken att begränsa obscenitet verkar ha gett resultat, eftersom kvinnor nu utgör cirka 34% av alla användare, upp från bara 11% av användarna 2018.

Medan sociala medieföretag kommer och går, verkar Chatroulette ha stigit till en plats av framträdande igen. Men Ternovskiy medger att företaget också har andra problem att lösa utöver bara innehållsmoderering. Enligt Ternovskiy återvänder nästan 90% av första gångsbesökarna aldrig, eftersom de finner sina interaktioner mediokra.

“Utmaningen är verkligen att bygga något som är värt att använda regelbundet snarare än att det bara är en engångs grej”, förklarade Ternovskiy via Wired.