Identyfikacja szkodliwej zawartości wideo za pomocą zwiastunów filmowych i uczenia maszynowego

Artykuł badawczy Szwedzkiej Rady Mediów przedstawia nowe podejście do automatycznej identyfikacji “szkodliwej zawartości”, biorąc pod uwagę oddzielnie zawartość audio i wideo, oraz wykorzystując dane opatrzone adnotacjami ludzkimi jako wskaźnik przewodni dla materiałów, które mogą niepokoić widzów.

Oto Czy to szkodliwe? Uczenie się przewidywania ocen szkodliwości z filmów, artykuł ilustruje potrzebę systemów uczenia maszynowego, które biorą pod uwagę cały kontekst sceny i ilustruje wiele sposobów, w jakie nieszkodliwa zawartość (taka jak humorystyczna lub satyryczna) mogłaby być błędnie interpretowana jako szkodliwa w mniej zaawansowanym i wielomodalnym podejściu do analizy wideo – nie tylko dlatego, że ścieżka dźwiękowa filmu jest często używana w nieoczekiwanych sposób, albo aby niepokoić, albo aby uspokoić widza, i jako kontrapunkt, a nie uzupełnienie wizualnego składnika.

Zestaw danych potencjalnie szkodliwych filmów

Badacze zauważają, że użyteczny rozwój w tym sektorze został zahamowany przez ochronę praw autorskich filmów, co utrudnia stworzenie ogólnych, otwartych zbiorów danych. Zauważają również, że dotychczasowe eksperymenty cierpiały z powodu braku etykietek dla pełnometrażowych filmów, co doprowadziło do uproszczenia danych we wcześniejszych pracach lub skupienia się tylko na jednym aspekcie danych, takim jak dominujące kolory lub analiza dialogu.

Aby rozwiązać ten problem, badacze skompilowali zestaw danych wideo składający się z 4000 klipów wideo, zwiastunów skróconych do fragmentów o długości około 10 sekund, które następnie zostały opatrzone adnotacjami przez profesjonalnych klasyfikatorów filmów, którzy nadzorują stosowanie ocen dla nowych filmów w Szwecji, wielu z nich z kwalifikacjami zawodowymi w dziedzinie psychologii dziecięcej.

W systemie szwedzkiej klasyfikacji filmów “szkodliwa” zawartość jest definiowana na podstawie jej możliwej skłonności do wywoływania uczucia lęku, strachu i innych negatywnych skutków u dzieci. Badacze zauważają, że ponieważ ten system oceniania obejmuje tyle samo intuicji, co nauki, parametry definicji “szkodliwej zawartości” są trudne do ujęcia i wprowadzenia do zautomatyzowanego systemu.

Definiowanie szkodliwości

Artykuł zauważa ponadto, że wcześniejsze systemy uczenia maszynowego i algorytmiczne rozwiązania tego problemu wykorzystywały wykrywanie konkretnych cech jako kryterium, w tym wizualne wykrywanie krwi i płomieni, dźwięk wybuchu i częstotliwość długości ujęcia, wśród innych ograniczonych definicji szkodliwej zawartości, i że podejście wielodomenowe wydaje się bardziej odpowiednie do automatycznego oceniania szkodliwej zawartości.

Szwedzcy badacze przeszkolili model sieci neuronowej 8×8 o 50 warstwach na benchmarku Kinetics-400 danych ruchu ludzkiego, i stworzyli architekturę zaprojektowaną do łączenia przewidywań wideo i audio.

W praktyce użycie zwiastunów rozwiązuje trzy problemy przy tworzeniu zestawu danych tego rodzaju: unika kwestii praw autorskich; zwiększona zmienność i wyższa częstotliwość ujęć w zwiastunach (w porównaniu z oryginalnymi filmami) pozwala na częstsze adnotowanie; i zapewnia, że niska częstotliwość zawartości przemocy lub niepokojącej w całym filmie nie zaburza zestawu danych i nieklasyfikuje go przypadkowo jako odpowiedni dla dzieci.

Wyniki

Po przeszkoleniu modelu szwedzcy badacze przetestowali system na klipach wideo.

W tym zwiastunie do Deep (2012) dwa modele użyte do testowania systemu (losowo wybrane etykiety vs. etykiety prawdopodobne) pomyślnie sklasyfikowały film jako odpowiedni dla widzów w wieku 11 lat i starszych.

Źródło: https://arxiv.org/pdf/2106.08323.pdf

Dla sceny z Discarnate (2018), gdzie wprowadzony jest potworny antagonista, podwójna struktura ponownie poprawnie oszacowała docelowy zakres wiekowy jako 11+/15+.

Jednak klip z zwiastuna do A Second Chance (2014) sprawił większą trudność, ponieważ model nie mógł zgodzić się z adnotacjami ludzkimi dla sceny, która została sklasyfikowana jako “BT” (powszechnie akceptowalna). W praktyce algorytm wykrył potencjał szkodliwości, którego adnotatorzy ludzcy nie przypisali mu.

Chociaż badacze potwierdzają wysoki wynik dokładności systemu, wystąpiły pewne niepowodzenia, takie jak ten klip z City State (2011), który przedstawia nagiego mężczyznę grożącego bronią.

W tym przypadku system przypisał klipowi ocenę 11+, w przeciwieństwie do adnotacji ludzkich.

Dyszonans intencji i szkodliwości

Artykuł zauważa, że podczas oceny klipu z zwiastuna do Paydirt (2020), system poprawnie przypisał klipowi ocenę “powszechną” na podstawie aspektów wizualnych i językowych (chociaż postacie dyskutują o broni, intencja jest komiczna), ale został zdezorientowany przez groźną muzykę, która może mieć kontekst satyryczny.

Podobnie w zwiastunie do filmu For Sama (2019), styl muzyki groźby nie jest dopasowany do zawartości wizualnej, i ponownie system ma trudności z rozplątaniem tych dwóch składników, aby podjąć jednolitą decyzję, która obejmuje zarówno zawartość audio, jak i wideo klipu.

W końcu system poprawnie nawiguje w przypadku dyszonansu audio/wideo w klipie zwiastuna do Virgin Mountain (2015), który zawiera pewne groźne wskazówki wizualne (np. rozbite okno), które są osłabione przez muzykę. Tak więc ramy poprawnie zgadują, że klip jest oceniany jako “powszechny” (BT).

Badacze przyznają, że system tego rodzaju jest wyłącznie ukierunkowany na dzieci, a wyniki nie będą się dobrze generalizować do innych typów widzów. Sugestywnie proponują, że ujęcie “szkodliwej zawartości” w ten liniowy sposób może potencjalnie prowadzić do systemów oceniania algorytmicznego, które są mniej nieprzewidywalne, ale zauważają potencjał niechcianego tłumienia idei w rozwoju takich podejść:

‘Ocena, czy zawartość jest szkodliwa, jest delikatną kwestią. Istnieje ważny balans między wolnością informacji a ochroną wrażliwych grup. Uważamy, że ta praca idzie w dobrym kierunku, będąc jak najbardziej przejrzystym co do kryteriów używanych do oceny szkodliwości. Ponadto uważamy, że oddzielenie szkodliwości od odpowiedniości jest ważnym krokiem w kierunku uczynienia klasyfikacji szkodliwej zawartości bardziej obiektywną.

‘…Wykrywanie szkodliwej zawartości jest również interesujące dla platform internetowych, takich jak YouTube. Na takich platformach balans między wolnością informacji a ochroną staje się jeszcze ważniejszy i jest dalej skomplikowany przez naturę algorytmów odpowiedzialnych.’