Ngidentipikasi Eusi Pidéo Ngabahayakeun Kalayan Trailer Pilem sareng Pembelajaran Mesin

Hiji makalah panalungtikan ti Déwan Media Swedia outlines pendekatan anyar mungkin mun idéntifikasi otomatis 'eusi ngabahayakeun', ku tempo eusi audio jeung video misah, sarta ngagunakeun data annotated manusa salaku indéks pituduh pikeun bahan nu bisa ngaganggu pemirsa.

dijudulan Naha Ieu Ngabahayakeun? Diajar ngaramalkeun Peunteun Karugian tina Video, nu keretas Illustrates kabutuhan sistem learning machine pikeun merhatikeun sakabéh konteks adegan, sarta ngagambarkeun loba cara eusi innocuous (saperti eusi humoris atawa satirical) bisa misinterpreted salaku ngabahayakeun dina pendekatan kirang canggih tur multimodal kana analisis video - teu saeutik sabab soundtrack musik pilem urang mindeng dipaké dina cara teu kaduga, boh pikeun ngaganggu atawa nengtremkeun ati nu nonton, sarta salaku counterpoint tinimbang pelengkap komponén visual.

Kumpulan Data Pidio anu Potensi Ngabahayakeun

Para panalungtik dicatet yén kamajuan mangpaat dina sektor ieu geus impeded ku panangtayungan hak cipta gambar gerak, nu ngajadikeun kreasi datasets open source umum masalah. Éta ogé niténan yén nepi ka ayeuna, percobaan sarupa geus ngalaman ti sparsity of labél pikeun pilem full-length, nu geus ngarah ka karya saméméhna oversimplifying data contributing, atawa keying dina ngan hiji aspék data, kayaning warna dominan atawa dialog. analisis.

Pikeun ngajawab ieu, panalungtik geus disusun a dataset video tina 4000 klip video, gandeng motong ka handap kana sakumpulan ngeunaan sapuluh detik panjangna, nu lajeng dilabélan ku classifiers pilem profésional anu ngawasan aplikasi ratings pikeun pilem anyar di Swédia, loba mibanda. kualifikasi profésional dina psikologi anak.

Dina sistem klasifikasi pilem Swedia, eusi 'ngabahayakeun' dihartikeun dumasar kana kamungkinan propensity na ngahasilkeun perasaan kahariwang, sieun, jeung épék négatip séjén di barudak. Para panalungtik dicatet yén saprak sistem ratings ieu ngalibatkeun saloba intuisi jeung naluri salaku elmu, parameter pikeun harti 'eusi ngabahayakeun' hésé quantize na instill kana sistem otomatis.

Nangtukeun Cilaka

Makalah salajengna niténan yén pembelajaran mesin saméméhna sareng sistem algoritmik pikeun ngatasi tantangan ieu parantos ngagunakeun deteksi facet khusus salaku kriteria, kalebet deteksi visual getih sareng seuneu, sora bursting, sareng frékuénsi panjang shot, diantara definisi terbatas anu ngabahayakeun. eusi, sarta yén pendekatan multi-domain sigana kamungkinan nawarkeun metodologi hadé pikeun rating otomatis tina eusi ngabahayakeun.

Panaliti Swedia ngalatih modél jaringan saraf 8 × 8 50-lapisan dina patokan gerakan manusa Kinetics-400. susunan data, sareng nyiptakeun arsitéktur anu dirancang pikeun ngahijikeun prediksi video sareng audio.

Dina pangaruh, pamakéan gandeng solves tilu masalah pikeun kreasi dataset alam ieu: eta obviates masalah hak cipta; ngaronjat turbulensi jeung frékuénsi shot luhur trailer (sakumaha dibandingkeun jeung pilem asalna), ngamungkinkeun pikeun frékuénsi annotation leuwih gede; sarta eta ensures yén incidence low eusi telenges atawa disturbing dina sakabéh pilem teu unbalance dataset jeung ngahaja kelas eta cocog pikeun barudak.

Results

Sakali model ieu dilatih, peneliti Swedia nguji sistem ngalawan video-klip.

Dina trailer ieu pikeun The Deep (2012), dua model dipaké pikeun nguji sistem (sampel acak labél vs labél probabilistik) hasil digolongkeun pilem cocog pikeun pemirsa yuswa 11 sarta leuwih.

Sumber: https://arxiv.org/pdf/2106.08323.pdf

Pikeun adegan ti Discarnate (2018) dimana antagonis monstrous diwanohkeun, kerangka dual deui leres diperkirakeun rentang umur target salaku 11+/15+.

Sanajan kitu, klip ti trailer pikeun Kasempetan Kadua (2014) dibere kasusah gede, saprak modél éta teu bisa satuju jeung annotations manusa pikeun adegan, nu geus digolongkeun salaku 'BT' (universal ditarima). Dina pangaruhna, algoritma parantos ngadeteksi poténsi cilaka anu henteu dipasihkeun ku evaluator manusa.

Sanaos panalungtik ngabuktoskeun skor akurasi anu luhur pikeun sistem, aya sababaraha kagagalan, sapertos klip ieu ti Nagara Kota (2011), anu nunjukkeun saurang lalaki taranjang anu ditahan diancam ku bedil.

Dina hal ieu, sistem geus ditugaskeun rating 11+ kana klip, kontras jeung annotations manusa.

Dissonance Of Intent Jeung Harmfulness

kertas catetan anu di evaluating klip ti trailer pikeun Paydirt (2020), sistem leres masihan rating 'universal' kana klip dumasar kana aspek visual sareng linguistik (sanaos karakter ngabahas senjata api, maksudna komedi), tapi bingung ku musik anu ngancem dissonantly anu dianggo, anu tiasa gaduh konteks satirical.

Kitu ogé dina trailer pikeun film Kanggo Sama (2019), gaya anceman tina eusi musik teu cocog jeung eusi visual, sarta sakali deui, sistem ngalaman kasusah dina disentangling dua komponén pikeun nyieun judgment seragam nu nyertakeun duanana eusi audio jeung video tina klip.

Tungtungna, sistem bener napigasi disonansi audio / video dina klip trailer pikeun Gunung parawan (2015), nu ngandung sababaraha cues visual ngancam (ie jandela rusak) nu dirusak ku musik. Ku kituna kerangka bener guesses yén klip ieu dipeunteun 'universal' (BT).

Para panalungtik ngaku yén sistem alam ieu sacara éksklusif difokuskeun ka barudak, sareng hasilna henteu sigana umumna ogé pikeun jinis panempo anu sanés. Éta ogé nyarankeun yén codifying eusi 'ngabahayakeun' ku cara linier ieu berpotensi ngakibatkeun sistem rating algorithmic anu kirang unpredictable, tapi catetan potensi represi dihoyongkeun gagasan dina ngembangkeun pendekatan sapertos:

'Menilai naha eusi ngabahayakeun mangrupikeun masalah anu rumit. Aya hiji kalakuan kasaimbangan penting antara kabebasan informasi jeung ngajaga grup sénsitip. Kami yakin yén karya ieu nyandak léngkah dina arah anu leres, ku transparan-gancang ngeunaan kriteria anu dianggo pikeun meunteun bahaya. Saterusna, kami yakin misahkeun harmfulness tina appropriateness mangrupa lengkah penting pikeun nyieun klasifikasi eusi ngabahayakeun leuwih obyektif.

'…Ngadeteksi eusi ngabahayakeun ogé dipikaresep ku platform online sapertos YouTube. Dina platform sapertos kitu, tindakan nyaimbangkeun antara kabébasan inpormasi sareng panyalindungan janten langkung penting sareng langkung rumit ku sifat proprietary tina algoritma anu tanggung jawab.'