Chatroulette Returnerer Med Hjelp Av AI-Drevet Innholdsmoderering

Chatroulette ble berømt tidlig i 2010-årene for å tillate mennesker å snakke med andre, tilfeldige mennesker. Imidlertid ble nettstedet også beryktet på grunn av hvor lett det var for mennesker å møte nakenhet og annen “R-rated” innhold. Ifølge Wired, prøver Chatroulette nå å gjøre et comeback med bedre innholdsmoderering hjulpet av AI.

AI-Drevet Innholdsmoderering

Ettersom AI og datavisjonsalgoritmer har blitt mer avanserte og pålitelige, har deres anvendelser for å oppdage uakseptabelt innhold forbedret seg. Dette er en velsignelse for enhver bedrift som tillater brukere å laste opp eller på annen måte opprette innhold. Selskaper som Youtube, Facebook (META ) og Twitter bruker AI-drevne innholdsfiltre-algoritmer for å håndtere uakseptabelt materiale. Chatroulette var spesielt plaget av nakenhet og andre obskøne handlinger som drev mange brukere vekk. Pandemien har ført til fornyet interesse for Chatroulette, som takket være fremgangen i AI-bildegjenkjenning kan overvåke innhold strømmet av brukere mer effektivt.

I 2019 inkorporerte Chatroulette-gründeren Andrey Ternovskiy selskapet i Sveits, med mål om å samarbeide med profesjonelle ledere og AI-eksperter. Maskinlærings-eksperten Andrew Done ble ansatt av Ternovskiy for å overvåke utviklingen av AI-teknologi for den nye Chatroulette. Done ble CEO tidligere i år, og la til flere produktforskere og ledere i teamet.

Under det nye lederskapet, utnyttet Chatroulette økningen i trafikk til å gjennomføre brukerforskning og teste ulike metoder for å moderere innhold. Chatroulette-teamet designet to nye chattekanaler. En chattekanal heter Random Chat, som er designet for å ekskludere uakseptabelt innhold, mens den andre kanalen heter Unmoderated. Denne splitten blir gjort for å tiltrekke brukere som er interessert i å koble til med andre mennesker uten å måtte bekymre seg for uakseptabelt innhold. Den ufiltrerte kanalen vil til slutt bli eliminert midt i 2021.

Samarbeid Med AI-Selskapet Hive

Chatroulette har samarbeidet med AI-selskapet Hive for å utvikle AI som kan oppdage nakenhet. Hive er også ansvarlig for å moderere Reddit-innhold, og har dermed erfaring med å håndtere innhold på et stort sosialt nettverk. Ifølge Done, er Hives AI-overvåkingssystem så nøyaktig at å inkludere menneskelige moderatorer faktisk forringrer nøyaktigheten av modereringen totalt. Hive trener AI-modeller på data annotert av en arbeidsstyrke på over 2 millioner distribuerte arbeidere. Den distribuerte arbeidsstyrken søker etter uakseptabelt innhold som nakenhet og nærvær av skytevåpen, og annoterer bildene for å bruke dem i trening av Hive AI. Mens Chatroulette prøvde å bruke Googles Cloud Vision AI-system og Amazon (AMZN ) Rekognition for å assistere i innholdsmoderering, fant de til slutt ut at Hives AI var den mest nøyaktige og pålitelige for deres behov.

Hives AI har prosessert over 600 millioner bilderammer fra Chatroulette. Hver forbindelse mellom to brukere resulterer i at tre bilderammer blir laget. Et bilde blir laget for begge brukere i begynnelsen av forbindelsen, og ett bilde blir generert for brukeren som avslutter forbindelsen. Innhold som bryter med vilkår kan angivelig bli identifisert innen én sekund. En varsling blir sendt til en menneskelig moderator som kan enten blokkere eller advare brukeren.

I begynnelsen av året, hadde Chatroulette omtrent 4 millioner unike besøkende per måned, som er det høyeste antallet besøkende selskapet har hatt siden tidlig i 2016. Innsatsen for å begrense obskønt innhold ser ut til å ha lykkes, ettersom kvinner nå utgjør omtrent 34% av alle brukere, opp fra bare 11% av brukerne i 2018.

Mens sosiale medieselskaper kommer og går, ser Chatroulette ut til å ha steget til en fremtredende posisjon igjen. Imidlertid erkjenner Ternovskiy at selskapet også har andre problemer å løse utover bare innholdsmoderering. Ifølge Ternovskiy, kommer omtrent 90% av første-gangs-besøkende aldri tilbake, ettersom de finner sine interaksjoner mediokre.

“Utfordringen er virkelig å bygge noe verdig som ville få mennesker mer interessert i å bruke det på en regelmessig basis, i stedet for at det bare er en engangs sak,” forklarte Ternovskiy via Wired.