Chatroulette Revient Avec l’Aide de la Modération de Contenu Propulsée par l’IA

Chatroulette est devenu célèbre au début des années 2010 pour avoir permis aux gens de discuter avec d’autres personnes aléatoires. Cependant, le site est également devenu tristement célèbre en raison de la facilité avec laquelle les gens pouvaient rencontrer de la nudité et d’autres contenus « R-rated ». Comme le rapporte Wired, Chatroulette vise maintenant à faire un comeback avec une meilleure modération de contenu aidée par l’IA.

Modération de Contenu Propulsée par l’IA

Alors que l’IA et les algorithmes de vision par ordinateur sont devenus plus sophistiqués et fiables, leurs applications pour la détection de contenus objectionnables se sont améliorées. C’est un avantage pour toute entreprise qui permet aux utilisateurs de télécharger ou de créer du contenu. Des entreprises comme Youtube, Facebook et Twitter emploient des algorithmes de filtration de contenu propulsés par l’IA pour faire face à des matériaux objectionnables. Chatroulette en particulier a été autrefois infesté de nudité et d’autres actes obscènes qui ont éloigné de nombreux utilisateurs. La pandémie a suscité un regain d’intérêt pour Chatroulette, qui grâce aux progrès de la reconnaissance d’images par l’IA, peut surveiller plus efficacement le contenu diffusé par les utilisateurs.
En 2019, le fondateur de Chatroulette, Andrey Ternovskiy, a incorporé l’entreprise en Suisse, dans le but de collaborer avec des gestionnaires professionnels et des spécialistes de l’IA. L’expert en apprentissage automatique Andrew Done a été embauché par Ternovskiy pour superviser le développement de la technologie IA pour le nouveau Chatroulette. Done est devenu PDG au début de cette année, ajoutant plus de chercheurs de produits et de gestionnaires à l’équipe.
Sous la nouvelle direction, Chatroulette a profité de l’augmentation du trafic pour effectuer des recherches sur les utilisateurs et tester diverses méthodes de modération de contenu. L’équipe de Chatroulette a conçu deux nouveaux canaux de chat. Un canal de chat s’appelle Chat Aléatoire, qui est conçu pour exclure les contenus objectionnables, tandis que l’autre canal s’appelle Non Modéré. Cette division est faite afin d’attirer les utilisateurs intéressés à se connecter avec d’autres personnes sans avoir à s’inquiéter de contenus objectionnables. Le canal non filtré sera éliminé à mi-2021.

Partenariat Avec l’Entreprise d’IA Hive

Chatroulette a conclu un partenariat avec l’entreprise d’IA Hive pour développer des IA de détection de nudité. Hive est également responsable de la modération du contenu de Reddit, leur donnant de l’expérience dans la gestion de contenu sur un grand réseau social. Selon Done, le système de surveillance IA de Hive est si précis que l’inclusion de modérateurs humains dégrade en fait la précision de la modération dans l’ensemble. Hive forme des modèles d’IA à partir de données annotées par une main-d’œuvre de plus de 2 millions de travailleurs répartis. La main-d’œuvre répartie recherche des contenus objectionnables comme la nudité et la présence d’armes à feu, en annotant les images pour les utiliser dans la formation de l’IA de Hive. Alors que Chatroulette a essayé d’utiliser le système d’IA Cloud Vision d’Amazon et Amazon Rekognition pour aider à la modération de contenu, il a finalement constaté que l’IA de Hive était la plus précise et la plus fiable pour ses besoins.
L’IA de Hive a traité plus de 600 millions de cadres de vidéo de Chatroulette. Toute connexion entre deux utilisateurs entraîne la création de trois cadres. Un cadre est créé pour les deux utilisateurs au début de la connexion, et un cadre est généré pour l’utilisateur qui met fin à la connexion. Le contenu qui viole les conditions peut être identifié en une seconde. Un message d’alerte est envoyé à un modérateur humain qui peut soit interdire, soit avertir l’utilisateur.
Au début de l’année, Chatroulette comptait environ 4 millions de visiteurs uniques par mois, ce qui est le plus grand nombre de visiteurs que l’entreprise a eu depuis le début de 2016. Les efforts pour limiter les contenus obscènes semblent avoir porté leurs fruits, car les femmes représentent maintenant environ 34 % de tous les utilisateurs, contre 11 % des utilisateurs en 2018.
Alors que les entreprises de médias sociaux vont et viennent, Chatroulette semble avoir retrouvé une place de premier plan. Cependant, Ternovskiy reconnaît que l’entreprise a également d’autres problèmes à résoudre au-delà de la simple modération de contenu. Selon Ternovskiy, près de 90 % des visiteurs pour la première fois ne reviennent jamais, car ils trouvent leurs interactions médiocres.
« Le véritable défi est de construire quelque chose de digne qui inciterait les gens à s’intéresser à l’utiliser régulièrement, plutôt que de le faire une seule fois », a expliqué Ternovskiy via Wired.