Chatroulette Returnerer Med Hjælp Fra AI-Drevet Indholdsmoderation

Chatroulette blev berømt i begyndelsen af 2010’erne for at låde mennesker tale med andre, tilfældige mennesker. Men siden blev også berømt for, hvor let folk kunne støde på nøgenhed og anden “R-rated” indhold. Ifølge Wired søger Chatroulette nu at gøre comeback med bedre indholdsmoderation hjulpet af AI.

AI-Drevet Indholdsmoderation

Da AI og computer vision-algoritmer er blevet mere avancerede og pålidelige, er deres anvendelser til at opdage forkert indhold forbedret. Dette er en fordel for enhver virksomhed, der tillader brugere at uploade eller på anden måde oprette indhold. Virksomheder som Youtube, Facebook (META ) og Twitter bruger AI-drevne indholdsfiltreringsalgoritmer til at tackle forkert materiale. Chatroulette var særligt plaget af nøgenhed og andre obskøne handlinger, der drev mange brugere væk. Pandemien har ført til fornyet interesse for Chatroulette, som takket være fremskridt i AI-billedegenkendelse kan overvåge indhold streamet af brugere mere effektivt.

I 2019 inkorporerede Chatroulette-grundlægger Andrey Ternovskiy virksomheden i Schweiz med det formål at samarbejde med professionelle ledere og AI-eksperter. Maskinlærings-eksperten Andrew Done blev ansat af Ternovskiy til at overvåge udviklingen af AI-teknologi til den nye Chatroulette. Done blev CEO tidligere på året og tilføjede flere produktforskere og ledere til holdet.

Under det nye lederskab udnyttede Chatroulette den øgede trafik til at udføre brugerforskning og teste forskellige metoder til at moderere indhold. Chatroulette-holdet designede to nye chat-kanaler. En chat-kanal kaldes Random Chat, der er designet til at udelukke forkert indhold, mens den anden kanal kaldes Unmoderated. Denne opdeling er lavet for at tiltrække brugere, der er interesseret i at forbinde sig med andre mennesker uden at skulle bekymre sig om forkert indhold. Den ufiltroede kanal vil til sidst blive elimineret midt i 2021.

Partnerskab Med AI-Virksomhed Hive

Chatroulette har indgået et partnerskab med AI-virksomheden Hive for at udvikle AI, der kan opdage nøgenhed. Hive er også ansvarlig for at moderere Reddit-indhold, hvilket giver dem erfaring med at håndtere indhold på et stort sociale netværk. Ifølge Done er Hives AI-overvågningssystem så præcist, at det faktisk forringer nøjagtigheden af moderation, hvis man inkluderer menneskelige moderatore. Hive træner AI-modeller på data, der er annoteret af en arbejdsstyrke på over 2 millioner distribuerede arbejdere. Den distribuerede arbejdsstyrke søger efter forkert indhold som nøgenhed og tilstedeværelse af skydevåben og annoterer billederne til brug i træning af Hive AI. Mens Chatroulette forsøgte at bruge Googles Cloud Vision AI-system og Amazon (AMZN ) Rekognition til at hjælpe med indholdsmoderation, fandt de til sidst, at Hives AI var den mest nøjagtige og pålidelige til deres behov.

Hives AI har behandlet over 600 millioner billeder fra Chatroulette. Enhver forbindelse mellem to brugere resulterer i, at der oprettes tre billeder. Et billede oprettes for begge brugere i starten af forbindelsen, og et billede genereres for den bruger, der afslutter forbindelsen. Indhold, der krænker vilkårene, kan angiveligt identificeres inden for en enkelt sekund. En advarselsskedde sendes ud til en menneskelig moderator, der kan enten bande eller advare brugeren.

I begyndelsen af året havde Chatroulette omkring 4 millioner unikke besøgende om måneden, hvilket er det højeste antal besøgende, virksomheden har haft siden begyndelsen af 2016. Bevillingerne til at begrænse obscønt indhold synes at have betalt sig, da kvinder nu udgør omkring 34% af alle brugere, op fra kun 11% af brugerne i 2018.

Mens sociale medie-virksomheder kommer og går, synes Chatroulette at have genfundet sin plads i rampelyset. Men Ternovskiy erkender, at virksomheden også har andre problemer at løse ud over blot indholdsmoderation. Ifølge Ternovskiy returnerer næsten 90% af første-gangs-besøgende aldrig, da de finder deres interaktioner middelmådige.

“Udfordringen er virkelig at bygge noget, der er værdigt og får folk mere interesseret i at bruge det på en regelmæssig basis i stedet for, at det blot er en engangs ting,” forklarede Ternovskiy via Wired.