Identifizierung von schädlichem Video-Inhalt mit Filmtrailern und Machine Learning

Eine Forschungsarbeit des schwedischen Medienrats skizziert einen möglichen neuen Ansatz für die automatische Identifizierung von “schädlichem Inhalt”, indem Audio- und Videoinhalte separat betrachtet und human-annotierte Daten als Leitfaden für Material verwendet werden, das Zuschauer stören könnte.

Unter dem Titel Ist dies schädlich? Lernen, Harmfulness-Ratings aus Video vorherzusagen zeigt die Arbeit die Notwendigkeit auf, dass maschinelle Lernsysteme den gesamten Kontext einer Szene berücksichtigen und veranschaulicht die vielen Möglichkeiten, wie harmloser Inhalt (wie humorvoller oder satirischer Inhalt) in einem weniger fortschrittlichen und multimodalen Ansatz zur Videoanalyse falsch interpretiert werden könnte – nicht zuletzt, weil die Filmmusik oft auf unerwartete Weise verwendet wird, entweder, um den Zuschauer zu beunruhigen oder zu beruhigen, und als Kontrapunkt statt als Ergänzung zur visuellen Komponente.

Ein Dataset potenziell schädlicher Videos

Die Forscher bemerken, dass nützliche Entwicklungen in diesem Sektor durch den Urheberrechtsschutz von Filmen behindert wurden, der die Erstellung allgemeiner Open-Source-Datensätze problematisch macht. Sie stellen auch fest, dass ähnliche Experimente in der Vergangenheit unter einer Sparsity von Labels für vollständige Filme gelitten haben, was zu einer Vereinfachung der beitragenden Daten oder einer Konzentration auf nur einen Aspekt der Daten wie dominierende Farben oder Dialoganalyse geführt hat.

Um dies zu beheben, haben die Forscher ein Video-Dataset von 4000 Video-Clips erstellt, Trailer, die in Teile von etwa zehn Sekunden Länge geschnitten wurden, die dann von professionellen Film-Klassifizierern annotiert wurden, die für die Anwendung von Bewertungen für neue Filme in Schweden verantwortlich sind, viele mit professionellen Qualifikationen in Kinderpsychologie.

Im schwedischen System der Filmklassifizierung wird “schädlicher” Inhalt definiert basierend auf seiner möglichen Neigung, Gefühle von Angst, Furcht und anderen negativen Effekten bei Kindern hervorzurufen. Die Forscher bemerken, dass da dieses Bewertungssystem so viel Intuition und Instinkt wie Wissenschaft beinhaltet, die Parameter für die Definition von “schädlichem Inhalt” schwierig zu quantifizieren und in ein automatisiertes System einzubauen sind.

Definierung von Schaden

Die Arbeit zeigt weiter, dass frühere maschinelle Lern- und algorithmische Systeme, die diese Herausforderung angegangen sind, spezifische Facetten-Erkennung als Kriterium verwendet haben, einschließlich der visuellen Erkennung von Blut und Flammen, dem Klang von Explosionen und der Häufigkeit von Schnittlängen, unter anderen eingeschränkten Definitionen von schädlichem Inhalt, und dass ein multi-domänen-Ansatz wahrscheinlich eine bessere Methodik für die automatische Bewertung von schädlichem Inhalt bietet.

Die schwedischen Forscher trainierten ein 8×8-50-Schichten-Neuronales-Netz-Modell auf dem Kinetics-400-Bewegungs-Benchmark Dataset und erstellten eine Architektur, die darauf ausgelegt ist, Video- und Audio-Vorhersagen zu fusionieren.

In der Praxis löst die Verwendung von Trailern drei Probleme für die Erstellung eines Datensatzes dieser Art: sie vermeidet Urheberrechtsprobleme; die erhöhte Turbulenz und höhere Schnittfrequenz von Trailern (im Vergleich zu den ursprünglichen Filmen) ermöglichen eine höhere Frequenz von Anmerkungen; und sie stellt sicher, dass die geringe Häufigkeit von gewaltsamem oder beunruhigendem Inhalt in einem gesamten Film den Datensatz nicht aus dem Gleichgewicht bringt und ihn versehentlich als für Kinder geeignet einstuft.

Ergebnisse

Sobald das Modell trainiert war, testeten die schwedischen Forscher das System gegen Video-Clips.

In diesem Trailer für Die Tiefe (2012) klassifizierten die beiden Modelle, die für das Testen des Systems verwendet wurden (zufällig ausgewählte Labels vs. wahrscheinliche Labels), den Film erfolgreich als für Zuschauer ab 11 Jahren geeignet.

Quelle: https://arxiv.org/pdf/2106.08323.pdf

Für eine Szene aus Discarnate (2018), in der ein monströser Antagonist vorgestellt wird, schätzte das duale Framework die Ziel-Altersgruppe korrekt als 11+/15+ ein.

Ein Clip aus dem Trailer für Zweite Chance (2014) bereitete jedoch größere Schwierigkeiten, da das Modell nicht mit den menschlichen Anmerkungen für die Szene übereinstimmte, die als “BT” (allgemein akzeptabel) klassifiziert worden war. In der Tat hat das Algorithmus ein Potenzial für Schaden erkannt, das die menschlichen Evaluatoren nicht zugeschrieben haben.

Obwohl die Forscher einen hohen Genauigkeitswert für das System angeben, traten einige Fehler auf, wie z.B. dieser Clip aus Stadtstaat (2011), der einen festgenommenen nackten Mann zeigt, der mit einem Gewehr bedroht wird.

In diesem Fall hat das System eine 11+-Bewertung für den Clip zugewiesen, im Gegensatz zu den menschlichen Anmerkungen.

Dissonanz zwischen Absicht und Schädlichkeit

Die Arbeit bemerkt, dass bei der Bewertung eines Clips aus dem Trailer für Paydirt (2020) das System korrekt eine “universelle” Bewertung für den Clip auf der Grundlage der visuellen und sprachlichen Aspekte (obwohl die Charaktere über Schusswaffen sprechen, ist die Absicht komödiantisch) zuweist, aber durch die dissonant bedrohliche Musik verwirrt wird, die einen satirischen Kontext haben kann.

Ebenso in einem Trailer für den Film For Sama (2019) ist der bedrohliche Stil des musikalischen Inhalts nicht mit dem visuellen Inhalt abgestimmt, und erneut hat das System Schwierigkeiten, die beiden Komponenten zu entwirren, um eine einheitliche Beurteilung zu treffen, die sowohl den Audio- als auch den Video-Inhalt des Clips abdeckt.

Schließlich navigiert das System die Audio/Video-Dissonanz in einem Trailer-Clip für Jungfrau-Berg (2015) korrekt, der einige bedrohliche visuelle Hinweise (z.B. ein gebrochenes Fenster) enthält, die durch die Musik untergraben werden. Somit schätzt das Framework korrekt ein, dass der Clip als “universell” (BT) eingestuft wird.

Die Forscher räumen ein, dass ein System dieser Art ausschließlich auf Kinder fokussiert ist, mit Ergebnissen, die wahrscheinlich nicht gut auf andere Arten von Zuschauern verallgemeinert werden können. Sie schlagen auch vor, dass die Kodifizierung von “schädlichem Inhalt” auf diese lineare Weise möglicherweise zu algorithmischen Bewertungssystemen führen könnte, die weniger unvorhersehbar sind, aber bemerken das Potenzial für unerwünschte Unterdrückung von Ideen bei der Entwicklung solcher Ansätze:

‘Die Beurteilung, ob Inhalt schädlich ist, ist eine heikle Angelegenheit. Es gibt ein wichtiges Gleichgewicht zwischen Informationsfreiheit und dem Schutz von sensiblen Gruppen. Wir glauben, dass diese Arbeit einen Schritt in die richtige Richtung macht, indem sie so transparent wie möglich über die Kriterien ist, die zur Beurteilung der Schädlichkeit verwendet werden. Darüber hinaus glauben wir, dass die Trennung von Schädlichkeit und Angemessenheit ein wichtiger Schritt zur Objektivierung der Klassifizierung von schädlichem Inhalt ist.

‘… Die Erkennung von schädlichem Inhalt ist auch für Online-Plattformen wie YouTube von Interesse. Auf solchen Plattformen wird das Gleichgewicht zwischen Informationsfreiheit und Schutz noch wichtiger und wird durch die proprietäre Natur der verantwortlichen Algorithmen weiter kompliziert.’