Identificação de Conteúdo de Vídeo Prejudicial com Trailers de Filmes e Aprendizado de Máquina

Um artigo de pesquisa do Conselho de Mídia da Suécia apresenta uma nova abordagem possível para a identificação automática de “conteúdo prejudicial”, considerando o conteúdo de áudio e vídeo separadamente e utilizando dados anotados por humanos como um índice de orientação para material que pode perturbar os espectadores.

Intitulado Isso é Prejudicial? Aprendendo a Prever Classificações de Prejudicialidade de Vídeo, o artigo ilustra a necessidade de sistemas de aprendizado de máquina considerarem o contexto completo de uma cena e ilustra as muitas maneiras pelas quais o conteúdo inócuo (como conteúdo humorístico ou satírico) pode ser mal interpretado como prejudicial em uma abordagem menos sofisticada e multimodal de análise de vídeo – não menos porque a trilha sonora de um filme é frequentemente usada de maneiras inesperadas, seja para perturbar ou tranquilizar o espectador, e como um contraponto em vez de um complemento ao componente visual.

Um Conjunto de Dados de Vídeos Potencialmente Prejudiciais

Os pesquisadores observam que desenvolvimentos úteis nesse setor foram impedidos pela proteção por direitos autorais de filmes, o que torna a criação de conjuntos de dados de código aberto generalizados problemáticos. Eles também observam que, até o momento, experimentos semelhantes sofreram com a escassez de rótulos para filmes de longa-metragem, o que levou a trabalhos anteriores a simplificar demais os dados contribuintes ou a se concentrar em apenas um aspecto dos dados, como cores dominantes ou análise de diálogo.

Para abordar isso, os pesquisadores compilaram um conjunto de dados de vídeo de 4000 cliques de vídeo, trailers cortados em pedaços de cerca de dez segundos de duração, que foram então rotulados por classificadores de filmes profissionais que supervisionam a aplicação de classificações para novos filmes na Suécia, muitos com qualificações profissionais em psicologia infantil.

De acordo com o sistema de classificação de filmes da Suécia, o “conteúdo prejudicial” é definido com base em sua possível propensão a produzir sentimentos de ansiedade, medo e outros efeitos negativos em crianças. Os pesquisadores observam que, desde que esse sistema de classificação envolve tanto intuição quanto ciência, os parâmetros para a definição de “conteúdo prejudicial” são difíceis de quantificar e instilar em um sistema automatizado.

Definindo Prejuízo

O artigo observa ainda que sistemas de aprendizado de máquina e algoritmos anteriores que abordam esse desafio usaram a detecção de facetas específicas como critério, incluindo a detecção visual de sangue e chamas, o som de explosões e a frequência de comprimento de disparo, entre outras definições restritas de conteúdo prejudicial, e que uma abordagem multi-domínio parece oferecer uma melhor metodologia para a classificação automática de conteúdo prejudicial.

Os pesquisadores suecos treinaram um modelo de rede neural de 8×8 e 50 camadas no benchmark de movimento humano Kinetics-400 dataset e criaram uma arquitetura projetada para fundir previsões de vídeo e áudio.

Em essência, o uso de trailers resolve três problemas para a criação de um conjunto de dados desse tipo: evita questões de direitos autorais; a turbulência aumentada e a frequência de disparo mais alta dos trailers (em comparação com os filmes originais) permitem uma frequência de anotação mais alta; e garante que a baixa incidência de conteúdo violento ou perturbador em um filme inteiro não desequilibre o conjunto de dados e o classifique acidentalmente como adequado para crianças.

Resultados

Uma vez que o modelo foi treinado, os pesquisadores suecos testaram o sistema contra cliques de vídeo.

Nesse trailer para O Profundo (2012), os dois modelos usados para testar o sistema (rótulos aleatórios vs. rótulos probabilísticos) classificaram com sucesso o filme como adequado para espectadores com 11 anos ou mais.

Fonte: https://arxiv.org/pdf/2106.08323.pdf

Para uma cena de Discarnate (2018) em que um antagonista monstruoso é introduzido, a estrutura dual novamente estimou corretamente a faixa etária-alvo como 11+/15+.

No entanto, um clipe do trailer para Uma Segunda Chance (2014) apresentou maior dificuldade, pois o modelo não conseguiu concordar com as anotações humanas para a cena, que havia classificado como ‘BT’ (universalmente aceitável). Em essência, o algoritmo detectou potencial para dano que os avaliadores humanos não atribuíram a ele.

Embora os pesquisadores atestem uma alta pontuação de precisão para o sistema, alguns fracassos ocorreram, como esse clipe do trailer para Cidade-Estado (2011), que apresenta um homem nu detido e ameaçado com uma rifle.

Nesse caso, o sistema atribuiu uma classificação de 11+ ao clipe, em contraste com as anotações humanas.

Dissonância de Intenção e Prejudicialidade

O artigo observa que, ao avaliar um clipe do trailer para Paydirt (2020), o sistema atribuiu corretamente uma classificação ‘universal’ ao clipe com base nos aspectos visuais e linguísticos (embora os personagens estejam discutindo armas de fogo, a intenção é cômica), mas foi confundido pela música ameaçadora usada de forma dissonante, que pode ter um contexto satírico.

Da mesma forma, em um trailer para o filme Para Sama (2019), o estilo ameaçador do conteúdo musical não é correspondido pelo conteúdo visual, e mais uma vez o sistema experimenta dificuldade em desembaraçar os dois componentes para fazer um julgamento uniforme que cubra tanto o conteúdo de áudio quanto o de vídeo do clipe.

Finalmente, o sistema navega corretamente a dissonância áudio/vídeo em um clipe do trailer para Montanha Virgem (2015), que contém alguns sinais visuais ameaçadores (i.e. uma janela quebrada) que são minimizados pela música. Assim, a estrutura adivinha corretamente que o clipe é classificado como ‘universal’ (BT).

Os pesquisadores admitem que um sistema desse tipo está exclusivamente focado em crianças, com os resultados improváveis de generalizar bem para outros tipos de espectadores. Eles também sugerem que codificar “conteúdo prejudicial” dessa forma linear pode potencialmente levar a sistemas de classificação algorítmicos que sejam menos imprevisíveis, mas observam o potencial para repressão indesejada de ideias no desenvolvimento de tais abordagens:

‘Avaliar se o conteúdo é prejudicial é uma questão delicada. Existe um importante equilíbrio entre a liberdade de informação e a proteção de grupos sensíveis. Acreditamos que esse trabalho dá um passo na direção certa, sendo o mais transparente possível sobre os critérios usados para avaliar a prejudicialidade. Além disso, acreditamos que separar a prejudicialidade da adequação é um passo importante para tornar a classificação de conteúdo prejudicial mais objetiva.

‘…Detectar conteúdo prejudicial também é de interesse para plataformas online como o YouTube. Nessas plataformas, o equilíbrio entre a liberdade de informação e a proteção se torna ainda mais importante e é complicado ainda mais pela natureza proprietária dos algoritmos responsáveis.’