Chatroulette Keert Terug Met Hulp van AI-Gestuurde Inhoudsmoderatie

Chatroulette werd beroemd in het begin van de jaren 2010 omdat het mensen in staat stelde om te praten met andere, willekeurige mensen. Echter, de site werd ook berucht vanwege de gemakkelijkheid waarmee mensen naaktheid en andere “R-rated” inhoud konden tegenkomen. Volgens Wired maakt Chatroulette nu een comeback met betere inhoudsmoderatie, geholpen door AI.

AI-Gestuurde Inhoudsmoderatie

Aangezien AI en computer vision-algoritmen meer geavanceerd en betrouwbaar zijn geworden, zijn hun toepassingen voor het detecteren van afkeurenswaardige inhoud verbeterd. Dit is een zegen voor elk bedrijf dat gebruikers toestaat inhoud te uploaden of anderszins te creëren. Bedrijven zoals Youtube, Facebook (META ) en Twitter gebruiken AI-gebaseerde inhoudsfiltratie-algoritmen om afkeurenswaardig materiaal te behandelen. Chatroulette was in het bijzonder ooit geplaagd door naaktheid en andere obscene handelingen die veel gebruikers wegjoegen. De pandemie heeft een hernieuwde interesse in Chatroulette veroorzaakt, die dankzij de vooruitgang in AI-beeldherkenning nu effectiever inhoud van gebruikers kan controleren.

In 2019 richtte Chatroulette-oprichter Andrey Ternovskiy het bedrijf op in Zwitserland, met als doel om samen te werken met professionele managers en AI-specialisten. Machine learning-expert Andrew Done werd door Ternovskiy aangenomen om de ontwikkeling van AI-technologie voor de nieuwe Chatroulette te leiden. Done werd eerder dit jaar CEO en voegde meer productonderzoekers en managers toe aan het team.

Onder het nieuwe leiderschap maakte Chatroulette gebruik van de toename in verkeer om gebruikersonderzoek te doen en verschillende methoden van inhoudsmoderatie te testen. Het Chatroulette-team ontwierp twee nieuwe chatkanalen. Een chatkanaal heet Random Chat, dat is ontworpen om afkeurenswaardige inhoud uit te sluiten, terwijl het andere kanaal Unmoderated heet. Deze splitsing wordt gemaakt om gebruikers aan te trekken die geïnteresseerd zijn in het verbinden met andere mensen zonder zich zorgen te hoeven maken over afkeurenswaardige inhoud. Het ongefilterde kanaal zal uiteindelijk in het midden van 2021 worden geëlimineerd.

Samenwerking Met AI-Bedrijf Hive

Chatroulette heeft een samenwerking met AI-bedrijf Hive om naaktheiddetecterende AI’s te ontwikkelen. Hive is ook verantwoordelijk voor het modereren van Reddit-inhoud, waardoor ze ervaring hebben met het beheren van inhoud op een groot sociaal netwerk. Volgens Done is Hive’s AI-bewakingsysteem zo nauwkeurig dat het opnemen van menselijke moderators de nauwkeurigheid van de moderatie daadwerkelijk vermindert. Hive traint AI-modellen op gegevens die zijn geannoteerd door een workforce van meer dan 2 miljoen gedistribueerde werknemers. De gedistribueerde workforce zoekt naar afkeurenswaardige inhoud zoals naaktheid en het voorkomen van vuurwapens, en annoteren de afbeeldingen voor gebruik bij het trainen van de Hive-AI. Terwijl Chatroulette eerst Google’s Cloud Vision AI-systeem en Amazon (AMZN ) Rekognition gebruikte om te helpen bij inhoudsmoderatie, vond het uiteindelijk dat Hive’s AI het meest nauwkeurig en betrouwbaar was voor hun behoeften.

Hive’s AI heeft meer dan 600 miljoen frames van video van Chatroulette verwerkt. Elke verbinding tussen twee gebruikers resulteert in drie frames. Een frame wordt gemaakt voor beide gebruikers aan het begin van de verbinding, en een frame wordt gegenereerd voor de gebruiker die de verbinding beëindigt. Inhoud die de voorwaarden schendt, kan blijkbaar binnen één seconde worden geïdentificeerd. Een waarschuwingsbericht wordt verzonden naar een menselijke moderator die de gebruiker kan verbannen of waarschuwen.

Aan het begin van het jaar had Chatroulette ongeveer 4 miljoen unieke bezoekers per maand, het hoogste aantal bezoekers dat het bedrijf sinds het begin van 2016 had. De inspanningen om obscene inhoud te bestrijden lijken succesvol te zijn, aangezien vrouwen nu ongeveer 34% van alle gebruikers zijn, tegenover slechts 11% van de gebruikers in 2018.

Terwijl sociale medianetwerken komen en gaan, lijkt Chatroulette weer een plaats van prominentie te hebben bereikt. Echter, Ternovskiy erkent dat het bedrijf ook andere problemen moet oplossen, buiten inhoudsmoderatie. Volgens Ternovskiy geeft ongeveer 90% van de eerste bezoekers nooit terug, omdat ze hun interacties als matig ervaren.

“De uitdaging is echt om iets waardigs te bouwen dat mensen meer geïnteresseerd zou maken om het regelmatig te gebruiken, in plaats van het alleen maar een eenmalige gebeurtenis te laten zijn,” legde Ternovskiy uit via Wired.