Chatroulette revient avec l'aide de la modération de contenu basée sur l'IA

Chatroulette est devenu célèbre au début des années 2010 pour permettre aux gens de parler avec d'autres personnes au hasard. Cependant, le site est également devenu tristement célèbre en raison de la facilité avec laquelle les gens pouvaient rencontrer de la nudité et d'autres contenus «R-rated». Tel que rapporté par Wired, Chatroulette vise désormais à faire un retour avec une meilleure modération de contenu aidée par l'IA.

Modération de contenu basée sur l'IA

À mesure que les algorithmes d’IA et de vision par ordinateur sont devenus plus sophistiqués et plus fiables, leurs applications pour détecter les contenus répréhensibles se sont améliorées. C'est une aubaine pour toute entreprise qui permet aux utilisateurs de télécharger ou de créer du contenu. Des entreprises comme Youtube, Facebook et Twitter utiliser des algorithmes de filtrage de contenu alimentés par l'IA à traiter le matériel répréhensible. Chatroulette en particulier était autrefois en proie à la nudité et à d'autres actes obscènes qui chassaient de nombreux utilisateurs. La pandémie a suscité un regain d'intérêt pour Chatroulette, qui, grâce aux progrès de la reconnaissance d'images par IA, peut surveiller plus efficacement le contenu diffusé par les utilisateurs.

En 2019, le fondateur de Chatroulette, Andrey Ternovskiy, a créé l'entreprise en Suisse, dans le but de collaborer avec des gestionnaires professionnels et des spécialistes de l'IA. L'expert en apprentissage automatique Andrew Done a été embauché par Ternovskiy pour superviser le développement de la technologie d'IA pour le nouveau Chatroulette. Done est devenu PDG plus tôt cette année, ajoutant davantage de chercheurs et de gestionnaires de produits à l'équipe.

Sous la nouvelle direction, Chatroulette a profité de l'augmentation du trafic pour mener des recherches sur les utilisateurs et tester diverses méthodes de modération de contenu. L'équipe de Chatroulette a conçu deux nouveaux canaux de chat. Un canal de chat s'appelle Random Chat, qui est conçu pour exclure le contenu répréhensible, tandis que l'autre canal s'appelle Unmoderated. Cette séparation est faite afin d'attirer les utilisateurs intéressés à se connecter avec d'autres personnes sans avoir à se soucier du contenu répréhensible. La chaîne non filtrée sera finalement supprimée mi-2021.

Partenariat avec AI Company Hive

Chatroulette s'est associé à la société AI Ruche développer des IA détectant la nudité. Hive est également responsable de la modération du contenu Reddit, leur donnant une expérience de la gestion de contenu sur un réseau social majeur. Selon Done, le système de surveillance de l'IA de Hive est si précis que l'inclusion de modérateurs humains dégrade en fait la précision de la modération dans son ensemble. Hive forme des modèles d'IA sur des données annotées par une main-d'œuvre de plus de 2 millions de travailleurs distribués. La main-d'œuvre distribuée recherche des contenus répréhensibles comme la nudité et la présence d'armes à feu, annotant les images à utiliser dans la formation de l'IA Hive. Alors que Chatroulette a essayé d'utiliser le système Cloud Vision AI de Google et Amazon Rekognition pour aider à la modération du contenu, il a finalement constaté que l'IA de Hive était la plus précise et la plus fiable pour ses besoins.

L'IA de Hive a traité plus de 600 millions d'images vidéo de Chatroulette. Toute connexion entre deux utilisateurs entraîne la création de trois cadres. Une trame est créée pour les deux utilisateurs au début de la connexion et une trame est générée pour l'utilisateur qui met fin à la connexion. Le contenu qui enfreint les conditions peut être identifié en une seule seconde. Un message d'alerte est envoyé à un modérateur humain qui peut soit bannir, soit avertir l'utilisateur.

Au début de l'année, Chatroulette comptait environ 4 millions de visiteurs uniques par mois, soit le plus grand nombre de visiteurs que l'entreprise ait eu depuis début 2016. Les efforts pour lutter contre les contenus obscènes semblent avoir porté leurs fruits, puisque les femmes représentent désormais environ 34 % des tous les utilisateurs, contre seulement 11 % des utilisateurs en 2018.

Alors que les entreprises de médias sociaux vont et viennent, Chatroulette semble avoir de nouveau pris de l'importance. Cependant, Ternovskiy reconnaît que l'entreprise a également d'autres problèmes à résoudre au-delà de la simple modération du contenu. Selon Ternovskiy, près de 90 % des visiteurs pour la première fois ne reviennent jamais, car ils trouvent leurs interactions médiocres.

"Le défi est vraiment de construire quelque chose de digne qui inciterait les gens à l'utiliser régulièrement plutôt que d'être une chose unique", a expliqué Ternovskiy via Wired.