Визначення шкідливого відеоконтенту за допомогою трейлерів фільмів та машинного навчання

Дослідницька робота Шведської медійної ради висунула можливий новий підхід до автоматичної ідентифікації “шкідливого контенту”, розглядаючи аудіо- та відеоконтент окремо, та використовуючи людські анотації як орієнтовний індекс для матеріалів, які можуть турбувати глядачів.

Названа Чи це шкідливо? Навчання передбачення шкідливості з відео, робота дослідження ілюструє необхідність того, щоб системи машинного навчання враховували весь контекст сцени, та ілюструє багато способів, як безневинний контент (наприклад, гумористичний або сатиричний контент) міг бути неправильно інтерпретований як шкідливий у менш розвиненому та багатомодальному підході до аналізу відео – не в останню чергу тому, що музичний саундтрек фільму часто використовується несподіваним чином, або щоб турбувати, або щоб заспокоїти глядача, та як контрпункт, а не як доповнення до візуальної складової.

Датасет потенційно шкідливих відео

Дослідники відзначають, що корисні розробки в цій сфері були ускладнені захистом авторських прав кінофільмів, який робить проблематичною створення загальних відкритих джерел даних. Вони також спостерігають, що подібні експерименти раніше страждали від нестачі міток для повнометражних фільмів, що призвело до спрощення даних у попередніх роботах, або зосередження уваги лише на одному аспекті даних, наприклад, на домінантних кольорах чи аналізі діалогів.

Для вирішення цієї проблеми дослідники скомплектували відеодатасет з 4000 відеокліпів, трейлерів, скорочених до фрагментів близько десяти секунд, які були потім помічені професійними кінокласифікаторами, які контролюють застосування рейтингів для нових фільмів у Швеції, багато з яких мають професійні кваліфікації у дитячій психології.

За шведською системою класифікації фільмів, “шкідливий” контент визначається на основі його можливої схильності викликати відчуття тривоги, страху та інших негативних ефектів у дітей. Дослідники відзначають, що оскільки ця система рейтингів включає стільки ж інтуїції та інстинкту, скільки й науки, параметри визначення “шкідливого контенту” важко кванталізувати та вбудувати в автоматизовану систему.

Визначення шкідливості

Дослідження далі спостерігає, що раніше машини навчання та алгоритмічні системи, що займаються цією проблемою, використовували специфічне виявлення аспектів як критерій, включаючи візуальне виявлення крові та полум’я, звук вибуху, частоту тривалості кадрів серед інших обмежених визначень шкідливого контенту, та що багатомодальний підхід, здається, пропонує кращу методологію для автоматичної оцінки шкідливого контенту.

Шведські дослідники тренували 8х8 50-шаровий нейронний мережевий модель на Kinetics-400 бенчмарку руху людини датасеті, та створили архітектуру, призначену для злиття відео- та аудіопередбачень.

По суті, використання трейлерів розв’язує три проблеми для створення датасету цього типу: це усуває проблеми з авторськими правами; підвищена турбулентність та вищу частоту кадрів трейлерів (у порівнянні з оригінальними фільмами) дозволяє частіше здійснювати анотацію; та це забезпечує, що низька частота насильницького чи турбуючого контенту в усьому фільмі не дезбалансує датасет та випадково класифікує його як підходящий для дітей.

Результати

Як тільки модель була тренована, шведські дослідники протестували систему проти відеокліпів.

У цьому трейлері для Глибини (2012) дві моделі, використані для тестування системи (випадково вибрані мітки проти ймовірнісних міток), успішно класифікували фільм як підходящий для глядачів віком 11 років та старше.

Джерело: https://arxiv.org/pdf/2106.08323.pdf

Для сцени з Дискарнате (2018), де вводиться монструозний антагоніст, подвійна структура знову правильно оцінила цільовий вік як 11+/15+.

Однак, кліп з трейлера для Другий шанс (2014) представив більшу складність, оскільки модель не змогла погодитися з людськими анотаціями для сцени, яку класифікували як “BT” (універсально прийнятна). По суті, алгоритм виявив потенційну шкідливість, якої людські оцінювачі не приписали йому.

Хоча дослідники підтверджують високий рівень точності системи, деякі невдачі все ж таки відбулися, наприклад, цей кліп з Місто-держава (2011), який містить затриманого голого чоловіка, загрозливого рушницею.

У цьому випадку система призначила рейтинг 11+ кліпу, на відміну від людських анотацій.

Дисонанс наміру та шкідливості

Дослідження відзначає, що при оцінці кліпу з трейлера для Платіж (2020), система правильно призначила “універсальний” рейтинг кліпу на основі візуальних та лінгвістичних аспектів (хоча персонажі обговорюють вогнепальну зброю, намір комічний), але була заплутана дисонансно-загрозливою музикою, яка могла мати сатиричний контекст.

Аналогічно у трейлері для фільму Для Сами (2019), загрозливий стиль музичного контенту не відповідає візуальному контенту, та знову система переживає труднощі у роз’їднуванні двох складових для формування уніфікованого судження, яке охоплює як аудіо-, так і відеоконтент кліпу.

Нарешті, система правильно орієнтується в аудіо/відео-дисонансі у трейлерному кліпі для Діва-гора (2015), який містить деякі загрозливі візуальні сигнали (наприклад, розбите вікно), які підміняються музикою. Отож, структура правильно здогадується, що кліп має рейтинг “універсальний” (BT).

Дослідники визнають, що система цього типу виключно зосереджена на дітях, із результатами, які малоймовірно узагальнюються добре для інших типів глядачів. Вони також припускають, що кодифікація “шкідливого” контенту tímto лінійним способом потенційно може привести до алгоритмічних систем рейтингу, які є менш непередбачуваними, проте відзначають потенційну небажану репресію ідей у розробці таких підходів:

‘Оцінка того, чи є контент шкідливим, – це деликатна справа. Існує важливий баланс між свободою інформації та захистом чутливих груп. Ми вважаємо, що ця робота робить крок у правильному напрямку, будучи якомога прозорішою щодо критеріїв, які використовуються для оцінки шкідливості. Крім того, ми вважаємо, що розділення шкідливості від підходящості – це важливий крок до того, щоб зробити класифікацію шкідливого контенту більш об’єктивною.

‘…Виявлення шкідливого контенту також становить інтерес для онлайн-платформ, таких як YouTube. На таких платформах баланс між свободою інформації та захистом стає ще важливішим та ускладнюється приватною природою алгоритмів, відповідальних за це.’