Identificazione di contenuti video dannosi con trailer di film e apprendimento automatico

Un articolo di ricerca del Consiglio dei media svedese descrive un nuovo approccio possibile per l’identificazione automatica di “contenuti dannosi”, considerando separatamente il contenuto audio e video e utilizzando dati annotati da esseri umani come indice guida per il materiale che potrebbe disturbare gli spettatori.

Intitolato È questo dannoso? Imparare a prevedere le valutazioni di dannosità da video, l’articolo illustra la necessità per i sistemi di apprendimento automatico di considerare l’intero contesto di una scena e mostra i molti modi in cui contenuti innocui (come contenuti umoristici o satirici) potrebbero essere fraintesi come dannosi in un approccio meno sofisticato e multimodale all’analisi del video – non meno perché la colonna sonora di un film è spesso utilizzata in modi inaspettati, sia per turbare che per rassicurare lo spettatore, e come contrappunto piuttosto che come complemento al componente visivo.

Un set di dati di video potenzialmente dannosi

I ricercatori notano che sviluppi utili in questo settore sono stati ostacolati dalla protezione del copyright dei film, che rende problematica la creazione di set di dati open source generalizzati. Essi osservano anche che, fino ad ora, esperimenti simili hanno sofferto di una scarsità di etichette per film di lungometraggio, il che ha portato a lavori precedenti che semplificano eccessivamente i dati contributivi o si concentrano su un solo aspetto dei dati, come i colori dominanti o l’analisi del dialogo.

Per affrontare questo problema, i ricercatori hanno raccolto un set di dati video di 4000 clip video, trailer tagliati in chunk di circa dieci secondi di lunghezza, che sono stati etichettati da classificatori di film professionisti che sovraintendono all’applicazione di valutazioni per nuovi film in Svezia, molti con qualifiche professionali in psicologia infantile.

Sotto il sistema di classificazione dei film svedese, il contenuto “dannoso” è definito in base alla sua possibile propensione a produrre sentimenti di ansia, paura e altri effetti negativi nei bambini. I ricercatori notano che, poiché questo sistema di valutazione coinvolge tanto intuizione quanto scienza, i parametri per la definizione di “contenuto dannoso” sono difficili da quantificare e instillare in un sistema automatico.

Definire il danno

L’articolo osserva inoltre che sistemi di apprendimento automatico e algoritmi precedenti che affrontano questa sfida hanno utilizzato la rilevazione di specifiche faccette come criterio, inclusa la rilevazione visiva del sangue e delle fiamme, il suono dell’esplosione e la frequenza della lunghezza del fotogramma, tra altre definizioni limitate di contenuto dannoso, e che un approccio multi-dominio sembra offrire una migliore metodologia per la valutazione automatica del contenuto dannoso.

I ricercatori svedesi hanno addestrato un modello di rete neurale 8×8 a 50 strati sul benchmark di movimento umano Kinetics-400 dataset e hanno creato un’architettura progettata per fondere le previsioni video e audio.

In effetti, l’utilizzo di trailer risolve tre problemi per la creazione di un set di dati di questo tipo: elimina i problemi di copyright; l’aumento della turbolenza e della frequenza di fotogrammi più alta dei trailer (rispetto ai film originali) consente una frequenza di annotazione più alta; e assicura che la bassa incidenza di contenuti violenti o disturbanti in un intero film non sbilanci il set di dati e lo classifichi accidentalmente come adatto ai bambini.

Risultati

Una volta addestrato il modello, i ricercatori svedesi lo hanno testato contro clip video.

Nel trailer di The Deep (2012), i due modelli utilizzati per testare il sistema (etichette campionate casualmente rispetto a etichette probabilistiche) hanno classificato correttamente il film come adatto a spettatori di età superiore a 11 anni.

Fonte: https://arxiv.org/pdf/2106.08323.pdf

Per una scena da Discarnate (2018) in cui viene introdotto un antagonista mostruoso, la struttura duale ha nuovamente stimato correttamente la fascia di età target come 11+/15+.

Tuttavia, un clip dal trailer di A Second Chance (2014) ha presentato una maggiore difficoltà, poiché il modello non è stato in grado di concordare con le annotazioni umane per la scena, che aveva classificato come “BT” (universalmente accettabile). In effetti, l’algoritmo ha rilevato un potenziale pericolo che gli valutatori umani non hanno ascritto ad esso.

Sebbene i ricercatori affermino un alto punteggio di accuratezza per il sistema, sono occorsi alcuni fallimenti, come questo clip da City State (2011), che presenta un uomo nudo detenuto minacciato con un fucile.

In questo caso, il sistema ha assegnato una valutazione di 11+ al clip, in contrasto con le annotazioni umane.

Dissonanza di intento e dannosità

L’articolo nota che, valutando un clip dal trailer di Paydirt (2020), il sistema assegna correttamente una valutazione “universale” al clip in base agli aspetti visivi e linguistici (sebbene i personaggi stiano discutendo di armi da fuoco, l’intento è comico), ma è confuso dalla musica minacciosa utilizzata in modo dissonante, che potrebbe avere un contesto satirico.

Allo stesso modo, in un trailer per il film For Sama (2019), lo stile minaccioso del contenuto musicale non è corrisposto dal contenuto visivo, e nuovamente il sistema sperimenta difficoltà nel distinguere i due componenti per formulare un giudizio uniforme che copra sia il contenuto audio che video del clip.

Infine, il sistema naviga correttamente la dissonanza audio/video in un clip del trailer per Virgin Mountain (2015), che contiene alcuni indizi visivi minacciosi (ad esempio una finestra rotta) che sono indeboliti dalla musica. Quindi la struttura stima correttamente che il clip sia valutato “universale” (BT).

I ricercatori ammettono che un sistema di questo tipo è esclusivamente focalizzato sui bambini, con risultati improbabili da generalizzare bene ad altri tipi di spettatori. Essi suggeriscono inoltre che codificare il “contenuto dannoso” in questo modo lineare potrebbe potenzialmente portare a sistemi di valutazione algoritmici meno imprevedibili, ma notano il potenziale per una repressione indesiderata di idee nello sviluppo di tali approcci:

‘Valutare se un contenuto è dannoso è una questione delicata. Esiste un importante equilibrio tra la libertà di informazione e la protezione di gruppi sensibili. Crediamo che questo lavoro faccia un passo nella direzione giusta, essendo il più trasparente possibile sui criteri utilizzati per valutare la dannosità. Inoltre, crediamo che separare la dannosità dall’adeguatezza sia un passo importante per rendere la classificazione del contenuto dannoso più oggettiva.

‘… Rilevare il contenuto dannoso è anche di interesse per piattaforme online come YouTube. Su tali piattaforme, l’equilibrio tra la libertà di informazione e la protezione diventa ancora più importante e viene ulteriormente complicato dalla natura proprietaria degli algoritmi responsabili.’