Mengidentifikasi Konten Video Berbahaya dengan Trailer Film dan Pembelajaran Mesin

Sebuah makalah penelitian dari Dewan Media Swedia menguraikan pendekatan baru untuk mengidentifikasi ‘konten berbahaya’ secara otomatis, dengan mempertimbangkan konten audio dan video secara terpisah, dan menggunakan data yang dianotasi oleh manusia sebagai indeks panduan untuk materi yang mungkin mengganggu pemirsa.

Berjudul Apakah Ini Berbahaya? Belajar untuk Memprediksi Peringkat Kebahayaan dari Video, makalah tersebut menggambarkan kebutuhan sistem pembelajaran mesin untuk mempertimbangkan konteks keseluruhan adegan, dan menggambarkan banyak cara konten yang tidak berbahaya (seperti konten humor atau satir) dapat salah diartikan sebagai berbahaya dalam pendekatan analisis video yang kurang canggih dan multimodal – terutama karena soundtrack musik film sering digunakan dengan cara yang tidak terduga, baik untuk mengganggu atau menenangkan pemirsa, dan sebagai kontrapoin terhadap komponen visual.

Dataset Video Berpotensi Berbahaya

Peneliti mencatat bahwa perkembangan yang berguna dalam sektor ini telah dihambat oleh perlindungan hak cipta film, yang membuat pembuatan dataset sumber terbuka yang umum menjadi masalah. Mereka juga mengamati bahwa percobaan serupa sebelumnya telah menderita karena kurangnya label untuk film panjang, yang telah menyebabkan pekerjaan sebelumnya menyederhanakan data yang berkontribusi, atau fokus hanya pada satu aspek data, seperti warna dominan atau analisis dialog.

Untuk mengatasi hal ini, peneliti telah mengompilasi dataset video yang terdiri dari 4000 klip video, trailer yang dipotong menjadi potongan sekitar sepuluh detik, yang kemudian diberi label oleh klasifikasi film profesional yang mengawasi penerapan peringkat untuk film baru di Swedia, banyak dengan kualifikasi profesional dalam psikologi anak.

Di bawah sistem klasifikasi film Swedia, ‘konten berbahaya’ didefinisikan berdasarkan kemungkinan untuk menghasilkan perasaan kecemasan, ketakutan, dan efek negatif lainnya pada anak-anak. Peneliti mencatat bahwa karena sistem peringkat ini melibatkan banyak intuisi dan insting serta ilmu pengetahuan, parameter untuk definisi ‘konten berbahaya’ sulit untuk diukur dan diintegrasikan ke dalam sistem otomatis.

Mengdefinisikan Bahaya

Makalah tersebut lebih lanjut mengamati bahwa sistem pembelajaran mesin dan algoritmik sebelumnya yang menangani tantangan ini telah menggunakan deteksi fasad spesifik sebagai kriteria, termasuk deteksi visual darah dan api, suara ledakan, dan frekuensi panjang tembakan, antara lain definisi terbatas dari konten berbahaya, dan bahwa pendekatan multi-domain tampaknya menawarkan metodologi yang lebih baik untuk peringkat otomatis konten berbahaya.

Peneliti Swedia melatih model jaringan saraf 8×8 50-lapis pada benchmark Kinetics-400 gerakan manusia dataset, dan membuat arsitektur yang dirancang untuk menggabungkan prediksi video dan audio.

Pada dasarnya, penggunaan trailer memecahkan tiga masalah untuk pembuatan dataset ini: itu menghilangkan masalah hak cipta; peningkatan turbulensi dan frekuensi tembakan yang lebih tinggi dari trailer (dibandingkan dengan film aslinya), memungkinkan frekuensi anotasi yang lebih tinggi; dan memastikan bahwa insiden rendah konten berbahaya atau mengganggu dalam film seluruhnya tidak menyeimbangkan dataset dan secara tidak sengaja mengklasifikasikannya sebagai sesuai untuk anak-anak.

Hasil

Setelah model dilatih, peneliti Swedia menguji sistem melawan klip video.

Di trailer untuk The Deep (2012), dua model yang digunakan untuk menguji sistem (label sampel acak vs. label probabilistik) berhasil mengklasifikasikan film sebagai sesuai untuk pemirsa berusia 11 tahun ke atas.

Sumber: https://arxiv.org/pdf/2106.08323.pdf

Untuk adegan dari Discarnate (2018) di mana antagonis yang menakutkan diperkenalkan, kerangka kerja ganda lagi-lagi memperkirakan kisaran usia target dengan benar sebagai 11+/15+.

Namun, klip dari trailer untuk A Second Chance (2014) menyajikan kesulitan yang lebih besar, karena model tidak dapat setuju dengan anotasi manusia untuk adegan tersebut, yang telah mengklasifikasikannya sebagai ‘BT’ (diterima secara universal). Pada dasarnya, algoritma telah mendeteksi potensi bahaya yang tidak diberikan oleh evaluator manusia.

Meskipun peneliti menyatakan skor akurasi yang tinggi untuk sistem, beberapa kegagalan terjadi, seperti klip dari City State (2011), yang menampilkan seorang pria telanjang yang ditahan dan diancam dengan senapan.

Dalam kasus ini, sistem telah menetapkan peringkat 11+ untuk klip, berbeda dengan anotasi manusia.

Dissonansi Antara Niat dan Kebahayaan

Makalah tersebut mencatat bahwa dalam mengevaluasi klip dari trailer untuk Paydirt (2020), sistem dengan benar menetapkan peringkat ‘universal’ untuk klip berdasarkan aspek visual dan linguistik (meskipun karakter membahas senjata api, niatnya adalah komedi), tetapi bingung oleh musik yang mengancam yang digunakan, yang mungkin memiliki konteks satir.

Demikian pula dalam trailer untuk film For Sama (2019), gaya musik yang mengancam tidak sesuai dengan konten visual, dan sekali lagi, sistem mengalami kesulitan dalam memisahkan kedua komponen untuk membuat keputusan yang seragam yang mencakup kedua konten audio dan video klip.

Akhirnya, sistem dengan benar menavigasi disonansi audio/video dalam klip trailer untuk Virgin Mountain (2015), yang berisi beberapa petunjuk visual yang mengancam (yaitu jendela pecah) yang diperlemah oleh musik. Jadi kerangka kerja dengan benar menebak bahwa klip tersebut diberi peringkat ‘universal’ (BT).

Peneliti mengakui bahwa sistem semacam ini secara eksklusif berfokus pada anak-anak, dengan hasil yang tidak mungkin umum untuk jenis pemirsa lain. Mereka juga menyarankan bahwa mengkodekan ‘konten berbahaya’ dengan cara ini dapat berpotensi menyebabkan sistem peringkat algoritmik yang kurang tidak terduga, tetapi mencatat potensi untuk penindasan ide yang tidak diinginkan dalam pengembangan pendekatan tersebut:

‘Mengukur apakah konten berbahaya adalah masalah yang halus. Ada keseimbangan yang penting antara kebebasan informasi dan melindungi kelompok yang rentan. Kami percaya bahwa pekerjaan ini mengambil langkah ke arah yang benar, dengan transparan tentang kriteria yang digunakan untuk menilai kebahayaan. Selanjutnya, kami percaya bahwa memisahkan kebahayaan dari kesesuaian adalah langkah penting untuk membuat klasifikasi konten berbahaya lebih objektif.

‘…Mengidentifikasi konten berbahaya juga merupakan minat bagi platform online seperti YouTube. Di platform tersebut, keseimbangan antara kebebasan informasi dan perlindungan menjadi lebih penting dan semakin rumit karena sifat algoritma yang bersifat milik.’