O Chatroulette retorna com a ajuda da moderação de conteúdo orientada por IA

O Chatroulette ficou famoso no início dos anos 2010 por permitir que as pessoas conversassem com outras pessoas aleatórias. No entanto, o site também se tornou famoso devido à facilidade com que as pessoas podiam encontrar nudez e outros conteúdos “R-rated”. Conforme relatado por Wired, Chatroulette agora tem como objetivo faça um retorno com melhor moderação de conteúdo auxiliada por IA.

Moderação de conteúdo orientada por IA

À medida que os algoritmos de IA e de visão computacional se tornaram mais sofisticados e confiáveis, suas aplicações para detectar conteúdo questionável melhoraram. Esta é uma vantagem para qualquer empresa que permite aos usuários fazer upload ou criar conteúdo. Empresas como Youtube, Facebook e Twitter empregar algoritmos de filtragem de conteúdo alimentados por IA para lidar com material censurável. O Chatroulette, em particular, já foi atormentado por nudez e outros atos obscenos que afastaram muitos usuários. A pandemia despertou um interesse renovado no Chatroulette, que, graças aos avanços no reconhecimento de imagem por IA, pode monitorar com mais eficácia o conteúdo transmitido pelos usuários.

Em 2019, o fundador do Chatroulette, Andrey Ternovskiy, incorporou a empresa na Suíça, com o objetivo de colaborar com gestores profissionais e especialistas em IA. O especialista em aprendizado de máquina Andrew Done foi contratado por Ternovskiy para supervisionar o desenvolvimento da tecnologia de IA para o novo Chatroulette. Done tornou-se CEO no início deste ano, acrescentando mais pesquisadores e gerentes de produto à equipe.

Sob a nova liderança, o Chatroulette aproveitou o aumento do tráfego para realizar pesquisas com usuários e testar vários métodos de moderação de conteúdo. A equipe do Chatroulette projetou dois novos canais de chat. Um canal de bate-papo é chamado de bate-papo aleatório, projetado para excluir conteúdo censurável, enquanto o outro canal é chamado de não moderado. Essa divisão está sendo feita para atrair usuários interessados ​​em se conectar com outras pessoas sem precisar se preocupar com conteúdo censurável. O canal não filtrado será eventualmente eliminado em meados de 2021.

Parceria com a empresa de IA Hive

Chatroulette fez parceria com empresa de IA Colméia para desenvolver IAs de detecção de nudez. A Hive também é responsável por moderar o conteúdo do Reddit, dando a eles experiência no gerenciamento de conteúdo em uma grande rede social. De acordo com Done, o sistema de monitoramento de IA da Hive é tão preciso que incluir moderadores humanos realmente degrada a precisão da moderação em geral. A Hive treina modelos de IA em dados anotados por uma força de trabalho de mais de 2 milhões de trabalhadores distribuídos. A força de trabalho distribuída procura conteúdo censurável, como nudez e presença de armas de fogo, anotando as imagens para uso no treinamento da Hive AI. Embora o Chatroulette tenha tentado usar o sistema Cloud Vision AI do Google e o Amazon Rekognition para ajudar na moderação de conteúdo, acabou descobrindo que a IA da Hive era a mais precisa e confiável para suas necessidades.

A IA da Hive processou mais de 600 milhões de quadros de vídeo do Chatroulette. Qualquer conexão entre dois usuários resulta na criação de três quadros. Um quadro é criado para ambos os usuários no início da conexão e um quadro é gerado para o usuário que encerra a conexão. O conteúdo que viola os termos pode ser identificado em um único segundo. Uma mensagem de alerta é enviada a um moderador humano que pode banir ou avisar o usuário.

No início do ano, o Chatroulette tinha aproximadamente 4 milhões de visitantes únicos por mês, o maior número de visitantes que a empresa teve desde o início de 2016. Os esforços para conter o conteúdo obsceno parecem ter valido a pena, já que as mulheres agora representam aproximadamente 34% dos todos os usuários, contra apenas 11% dos usuários em 2018.

Enquanto as empresas de mídia social vêm e vão, o Chatroulette parece ter subido para um lugar de destaque mais uma vez. No entanto, Ternovskiy reconhece que a empresa também tem outros problemas para resolver além da moderação de conteúdo. De acordo com Ternovskiy, quase 90% dos visitantes de primeira viagem nunca retornam, pois consideram suas interações medíocres.

“O desafio é realmente construir algo digno que deixe as pessoas mais interessadas em usá-lo regularmente, em vez de ser apenas uma coisa única”, disse. explicou Ternovskiy via Wired.