Chatroulette Regresa Con La Ayuda De La Moderación De Contenido Impulsada Por IA

Chatroulette se hizo famoso a principios de la década de 2010 por permitir que las personas hablaran con otras personas aleatorias. Sin embargo, el sitio también se hizo infame debido a la facilidad con la que las personas podían encontrar desnudez y otros contenidos “R-rated”. Según Wired, Chatroulette ahora está tratando de hacer un regreso con una mejor moderación de contenido ayudada por IA.

Moderación De Contenido Impulsada Por IA

A medida que los algoritmos de IA y visión por computadora se han vuelto más sofisticados y confiables, sus aplicaciones para detectar contenido objetable han mejorado. Esto es un beneficio para cualquier empresa que permita a los usuarios subir o crear contenido. Empresas como Youtube, Facebook (META ) y Twitter utilizan algoritmos de filtración de contenido impulsados por IA para lidiar con material objetable. Chatroulette en particular fue plagado de desnudez y otros actos obscenos que alejaron a muchos usuarios. La pandemia ha causado un renovado interés en Chatroulette, que gracias a los avances en el reconocimiento de imágenes de IA puede monitorear de manera más efectiva el contenido transmitido por los usuarios.

En 2019, el fundador de Chatroulette, Andrey Ternovskiy, incorporó la empresa en Suiza, con el objetivo de colaborar con gerentes profesionales y especialistas en IA. El experto en aprendizaje automático Andrew Done fue contratado por Ternovskiy para supervisar el desarrollo de la tecnología de IA para el nuevo Chatroulette. Done se convirtió en CEO a principios de este año, agregando más investigadores de productos y gerentes al equipo.

Bajo el nuevo liderazgo, Chatroulette aprovechó el aumento de tráfico para realizar investigaciones de usuarios y probar varios métodos de moderación de contenido. El equipo de Chatroulette diseñó dos nuevos canales de chat. Un canal de chat se llama Chat Aleatorio, que está diseñado para excluir contenido objetable, mientras que el otro canal se llama No Moderado. Esta división se está haciendo para atraer a los usuarios interesados en conectarse con otras personas sin necesidad de preocuparse por contenido objetable. El canal no filtrado eventualmente será eliminado a mediados de 2021.

Asociación Con La Compañía De IA Hive

Chatroulette se ha asociado con la compañía de IA Hive para desarrollar IA que detecte desnudez. Hive también es responsable de moderar el contenido de Reddit, lo que les da experiencia en la gestión de contenido en una red social importante. Según Done, el sistema de monitoreo de IA de Hive es tan preciso que incluir moderadores humanos en realidad degrada la precisión de la moderación en general. Hive entrena modelos de IA con datos anotados por una fuerza laboral de más de 2 millones de trabajadores distribuidos. La fuerza laboral distribuida busca contenido objetable como desnudez y la presencia de armas de fuego, anotando las imágenes para su uso en la capacitación de la IA de Hive. Mientras que Chatroulette intentó utilizar el sistema de IA de Cloud Vision de Google y Amazon (AMZN ) Rekognition para ayudar en la moderación de contenido, finalmente encontró que la IA de Hive era la más precisa y confiable para sus necesidades.

La IA de Hive ha procesado más de 600 millones de fotogramas de video de Chatroulette. Cada conexión entre dos usuarios da como resultado la creación de tres fotogramas. Un fotograma se crea para ambos usuarios al principio de la conexión, y un fotograma se genera para el usuario que termina la conexión. El contenido que viola los términos puede ser identificado en un solo segundo. Se envía un mensaje de alerta a un moderador humano que puede prohibir o advertir al usuario.

Al principio del año, Chatroulette tenía aproximadamente 4 millones de visitantes únicos al mes, lo que es la mayor cantidad de visitantes que la empresa ha tenido desde principios de 2016. Los esfuerzos para frenar el contenido obsceno parecen haber dado resultado, ya que las mujeres ahora representan aproximadamente el 34% de todos los usuarios, en comparación con solo el 11% de los usuarios en 2018.

Mientras que las empresas de redes sociales van y vienen, Chatroulette parece haber vuelto a un lugar de prominencia. Sin embargo, Ternovskiy reconoce que la empresa también tiene otros problemas que resolver más allá de la moderación de contenido. Según Ternovskiy, casi el 90% de los visitantes por primera vez nunca regresan, ya que encuentran sus interacciones mediocres.

“El desafío realmente es construir algo digno que haga que las personas estén más interesadas en usarlo de manera regular en lugar de que sea solo una cosa de una vez”, explicó Ternovskiy a través de Wired.