Chatroulette Retorna Com a Ajuda da Moderação de Conteúdo Impulsionada por IA

Chatroulette se tornou famoso no início dos anos 2010 por permitir que as pessoas conversassem com outras pessoas aleatórias. No entanto, o site também se tornou infame devido à facilidade com que as pessoas podiam encontrar nudez e outros conteúdos “R-rated”. Conforme relatado pela Wired, Chatroulette agora está tentando fazer um retorno com uma moderação de conteúdo melhorada com o auxílio da IA.

Moderação de Conteúdo Impulsionada por IA

À medida que os algoritmos de IA e visão computacional se tornaram mais sofisticados e confiáveis, suas aplicações para detectar conteúdo objetável melhoraram. Isso é um benefício para qualquer empresa que permita que os usuários façam upload ou criem conteúdo de outra forma. Empresas como Youtube, Facebook (META ) e Twitter empregam algoritmos de filtragem de conteúdo impulsionados por IA para lidar com material objetável. Chatroulette, em particular, foi uma vez assolada por nudez e outros atos obscenos que afastaram muitos usuários. A pandemia causou um renovado interesse em Chatroulette, que, graças aos avanços no reconhecimento de imagens de IA, pode monitorar mais eficazmente o conteúdo transmitido pelos usuários.

Em 2019, o fundador do Chatroulette, Andrey Ternovskiy, incorporou a empresa na Suíça, visando colaborar com gerentes profissionais e especialistas em IA. O especialista em aprendizado de máquina Andrew Done foi contratado por Ternovskiy para supervisionar o desenvolvimento da tecnologia de IA para o novo Chatroulette. Done se tornou CEO no início deste ano, adicionando mais pesquisadores de produto e gerentes à equipe.

Sob a nova liderança, Chatroulette aproveitou o aumento no tráfego para realizar pesquisas com os usuários e testar vários métodos de moderação de conteúdo. A equipe do Chatroulette projetou dois novos canais de bate-papo. Um canal de bate-papo é chamado de Chat Aleatório, que é projetado para excluir conteúdo objetável, enquanto o outro canal é chamado de Não Moderado. Essa divisão está sendo feita para atrair usuários interessados em se conectar com outras pessoas sem precisar se preocupar com conteúdo objetável. O canal não filtrado será eventualmente eliminado em meados de 2021.

Parceria Com a Empresa de IA Hive

Chatroulette fez parceria com a empresa de IA Hive para desenvolver IA de detecção de nudez. A Hive também é responsável por moderar o conteúdo do Reddit, dando-lhe experiência em gerenciar conteúdo em uma grande rede social. De acordo com Done, o sistema de monitoramento de IA da Hive é tão preciso que incluir moderadores humanos na verdade degrada a precisão da moderação geral. A Hive treina modelos de IA com dados anotados por uma força de trabalho de mais de 2 milhões de trabalhadores distribuídos. A força de trabalho distribuída procura por conteúdo objetável, como nudez e a presença de armas de fogo, anotando as imagens para uso no treinamento da IA da Hive. Embora o Chatroulette tenha tentado usar o sistema de IA de Visão em Nuvem do Google e o Amazon (AMZN ) Rekognition para ajudar na moderação de conteúdo, ele eventualmente descobriu que a IA da Hive era a mais precisa e confiável para suas necessidades.

A IA da Hive processou mais de 600 milhões de quadros de vídeo do Chatroulette. Qualquer conexão entre dois usuários resulta na criação de três quadros. Um quadro é criado para ambos os usuários no início da conexão e um quadro é gerado para o usuário que termina a conexão. O conteúdo que viola os termos pode ser identificado dentro de um segundo. Uma mensagem de alerta é enviada a um moderador humano que pode banir ou advertir o usuário.

No início do ano, Chatroulette tinha aproximadamente 4 milhões de visitantes únicos por mês, o que é o maior número de visitantes que a empresa teve desde o início de 2016. Os esforços para controlar o conteúdo obsceno parecem ter dado resultado, pois as mulheres agora representam aproximadamente 34% de todos os usuários, contra apenas 11% dos usuários em 2018.

Embora as empresas de mídia social venham e vão, Chatroulette parece ter retomado um lugar de destaque novamente. No entanto, Ternovskiy reconhece que a empresa também tem outros problemas a resolver além da moderação de conteúdo. De acordo com Ternovskiy, quase 90% dos visitantes首次 nunca retornam, pois encontram suas interações medíocres.

“O desafio realmente é construir algo digno que faça as pessoas mais interessadas em usá-lo regularmente, em vez de ser apenas uma coisa de uma vez”, explicou Ternovskiy via Wired.