Chatroulette regresa con la ayuda de la moderación de contenido impulsada por IA

Chatroulette se hizo famoso a principios de la década de 2010 por permitir que las personas hablaran con otras personas al azar. Sin embargo, el sitio también se volvió infame debido a la facilidad con la que las personas podían encontrar desnudos y otro contenido "clasificado R". Según informa Wired, Chatroulette ahora tiene como objetivo hacer una reaparición con una mejor moderación de contenido con la ayuda de IA.

Moderación de contenido impulsada por IA

A medida que los algoritmos de inteligencia artificial y visión por computadora se han vuelto más sofisticados y confiables, sus aplicaciones para detectar contenido objetable han mejorado. Esto es una gran ayuda para cualquier empresa que permita a los usuarios cargar o crear contenido. Empresas como Youtube, Facebook y Twitter. emplear algoritmos de filtración de contenido impulsados ​​por IA a tratar con material objetable. Chatroulette en particular alguna vez estuvo plagado de desnudos y otros actos obscenos que ahuyentaron a muchos usuarios. La pandemia ha provocado un renovado interés en Chatroulette, que gracias a los avances en el reconocimiento de imágenes de IA puede monitorear de manera más efectiva el contenido transmitido por los usuarios.

En 2019, el fundador de Chatroulette, Andrey Ternovskiy, incorporó la empresa en Suiza con el objetivo de colaborar con gerentes profesionales y especialistas en inteligencia artificial. Ternovskiy contrató al experto en aprendizaje automático Andrew Done para supervisar el desarrollo de la tecnología de inteligencia artificial para la nueva Chatroulette. Done se convirtió en director ejecutivo a principios de este año y agregó más investigadores y gerentes de productos al equipo.

Bajo el nuevo liderazgo, Chatroulette aprovechó el aumento del tráfico para realizar investigaciones de usuarios y probar varios métodos de moderación de contenido. El equipo de Chatroulette diseñó dos nuevos canales de chat. Un canal de chat se llama Random Chat, que está diseñado para excluir contenido objetable, mientras que el otro canal se llama No moderado. Esta división se realiza para atraer a los usuarios interesados ​​en conectarse con otras personas sin tener que preocuparse por el contenido objetable. El canal sin filtrar finalmente se eliminará a mediados de 2021.

Asociación con AI Company Hive

Chatroulette se ha asociado con la empresa AI Colmena para desarrollar IA de detección de desnudez. Hive también es responsable de moderar el contenido de Reddit, brindándoles experiencia en la gestión de contenido en una red social importante. Según Done, el sistema de monitoreo de IA de Hive es tan preciso que incluir moderadores humanos en realidad degrada la precisión de la moderación en general. Hive entrena modelos de IA en datos anotados por una fuerza laboral de más de 2 millones de trabajadores distribuidos. La fuerza de trabajo distribuida busca contenido objetable como desnudez y la presencia de armas de fuego, y anota las imágenes para usarlas en el entrenamiento de la IA de Hive. Si bien Chatroulette intentó usar el sistema Cloud Vision AI de Google y Amazon Rekognition para ayudar en la moderación del contenido, finalmente descubrió que la IA de Hive era la más precisa y confiable para sus necesidades.

La IA de Hive ha procesado más de 600 millones de fotogramas de video de Chatroulette. Cualquier conexión entre dos usuarios da como resultado la creación de tres marcos. Se crea un marco para ambos usuarios al comienzo de la conexión y se genera un marco para el usuario que finaliza la conexión. Según los informes, el contenido que viola los términos se puede identificar en un solo segundo. Se envía un mensaje de alerta a un moderador humano que puede prohibir o advertir al usuario.

A principios de año, Chatroulette tenía aproximadamente 4 millones de visitantes únicos al mes, que es la mayor cantidad de visitantes que ha tenido la empresa desde principios de 2016. Los esfuerzos para frenar el contenido obsceno parecen haber valido la pena, ya que las mujeres representan ahora aproximadamente el 34 % de los usuarios. todos los usuarios, frente a solo el 11% de los usuarios en 2018.

Mientras que las empresas de redes sociales van y vienen, Chatroulette parece haber vuelto a ocupar un lugar destacado. Sin embargo, Ternovskiy reconoce que la empresa también tiene otros problemas que resolver más allá de la moderación del contenido. Según Ternovskiy, casi el 90% de los visitantes primerizos nunca regresan, ya que sus interacciones les parecen mediocres.

“El desafío realmente es construir algo digno que haga que las personas se interesen más en usarlo de manera regular en lugar de que sea algo único”. explicó Ternovskiy a través de Wired.