Αναγνώριση Επικίνδυνου Περιεχομένου Βίντεο με Τрейλερ Κινηματογραφικών Ταινιών και Μηχανική Μάθηση

Μια έρευνα από το Σουηδικό Συμβούλιο Μέσων Μαζικής Ενημέρωσης περιγράφει μια πιθανή νέα προσέγγιση για την αυτόματη αναγνώριση “επικίνδυνου περιεχομένου”, εξετάζοντας χωριστά το ήχο και το βίντεο, και χρησιμοποιώντας ανθρώπινα αναγνωρισμένα δεδομένα ως οδηγό δείκτη για υλικό που μπορεί να προκαλέσει διαταραχή στους θεατές.

Με τίτλο Είναι Αυτό Επικίνδυνο; Μάθηση για την Πρόβλεψη Βαθμολογιών Επικινδυνότητας από Βίντεο, η έρευνα υπογραμμίζει την ανάγκη για τα συστήματα μηχανικής μάθησης να λαμβάνουν υπόψη το σύνολο του контекστού μιας σκηνής και παρουσιάζει τους πολλούς τρόπους με τους οποίους αθώο περιεχόμενο (όπως юморιστικό ή σατιρικό περιεχόμενο) θα μπορούσε να παρεξηγηθεί ως επικίνδυνο σε μια λιγότερο sophistιμένη και πολυμεσική προσέγγιση ανάλυσης βίντεο – όχι μόνο επειδή η μουσική της ταινίας χρησιμοποιείται συχνά με απροσδόκητους τρόπους, είτε για να αναστατώσει είτε για να καθησυχάσει τον θεατή, και ως αντίθεση παρά ως συμπλήρωμα του οπτικού συντελεστή.

Ένα Σύνολο Δεδομένων Πιθανώς Επικίνδυνων Βίντεο

Οι ερευνητές σημειώνουν ότι χρήσιμες εξελίξεις σε αυτόν τον τομέα έχουν εμποδιστεί από την προστασία πνευματικών δικαιωμάτων των κινηματογραφικών ταινιών, η οποία καθιστά την δημιουργία γενικευμένων ανοιχτών συνόλων δεδομένων προβληματική. Επίσης, παρατηρούν ότι μέχρι τώρα, παρόμοιες πειραματικές μελέτες έχουν υποφέρει από την σπανιότητα ετικετών για πλήρεις ταινίες, γεγονός που οδήγησε σε προηγούμενη εργασία να απλοποιήσει το συνεισφέρων δεδομένα ή να επικεντρωθεί μόνο σε ένα аспект του δεδομένου, όπως οι κυρίαρχες χρώματα ή η ανάλυση διαλόγου.

Για να αντιμετωπίσουν αυτό, οι ερευνητές έχουν συλλέξει ένα σύνολο δεδομένων βίντεο 4000 κλιπ, τρέιλερ που έχουν κοπεί σε κομμάτια περίπου δέκα δευτερολέπτων, τα οποία στη συνέχεια ετικετώνθηκαν από επαγγελματίες κριτές κινηματογραφικών ταινιών που επιβλέπουν την εφαρμογή βαθμολογιών για νέες ταινίες στη Σουηδία, πολλοί από τους οποίους έχουν επαγγελματικές προϋποθέσεις σε παιδική ψυχολογία.

Σύμφωνα με το Σουηδικό σύστημα ταξινόμησης κινηματογραφικών ταινιών, το “επικίνδυνο” περιεχόμενο ορίζεται με βάση την πιθανή ικανότητά του να προκαλέσει αισθήματα ανησυχίας, φόβου και άλλων αρνητικών επιπτώσεων σε παιδιά. Οι ερευνητές σημειώνουν ότι既然 αυτό το σύστημα βαθμολογίας εμπλέκει τόσο την直觉 όσο και την επιστήμη, οι παράμετροι για τον ορισμό του “επικίνδυνου περιεχομένου” είναι δύσκολο να ποσοτικοποιηθούν και να ενσωματωθούν σε ένα αυτόματο σύστημα.

Ορισμός Επικινδυνότητας

Το έγγραφο παρατηρεί περαιτέρω ότι προηγούμενα συστήματα μηχανικής μάθησης και αλγορίθμων που αντιμετωπίζουν αυτήν την πρόκληση έχουν χρησιμοποιήσει συγκεκριμένα κριτήρια ανίχνευσης, συμπεριλαμβανομένης της οπτικής ανίχνευσης αίματος και φλόγων, του ήχου της έκρηξης και της συχνότητας του μήκους του πλάνου, μεταξύ άλλων περιορισμένων ορισμών επικίνδυνου περιεχομένου, και ότι μια πολυμεσική προσέγγιση φαίνεται να προσφέρει καλύτερη μεθοδολογία για την αυτόματη βαθμολογία του επικίνδυνου περιεχομένου.

Οι Σουηδοί ερευνητές εκπαίδευσαν ένα νευρωνικό μοντέλο 8×8 50-στρώματος στο Kinetics-400 benchmark σύνολο δεδομένων ανθρώπινης κίνησης, και δημιούργησαν μια αρχιτεκτονική που σχεδιάστηκε για να συνδυάσει προβλέψεις βίντεο και ήχου.

Στην πραγματικότητα, η χρήση τρέιλερ λύνει τρία προβλήματα για τη δημιουργία ενός συνόλου δεδομένων αυτού του είδους: απομακρύνει προβλήματα πνευματικών δικαιωμάτων, η αυξημένη turbulencia και υψηλότερη συχνότητα πλάνων των τρέιλερ (σε σύγκριση με τις αρχικές ταινίες) επιτρέπει μεγαλύτερη συχνότητα ετικετών, και διασφαλίζει ότι η χαμηλή συχνότητα βίαιου ή ανησυχητικού περιεχομένου σε μια ολόκληρη ταινία δεν αποσταθεροποιεί το σύνολο δεδομένων και δεν το ταξινομεί κατά λάθος ως κατάλληλο για παιδιά.

Αποτελέσματα

Όταν το μοντέλο εκπαιδεύτηκε, οι Σουηδοί ερευνητές έκαναν δοκιμές του συστήματος με βίντεο-κλιπ.

Σε αυτό το τρέιλερ για Το Βάθος (2012), τα δύο μοντέλα που χρησιμοποιήθηκαν για δοκιμή του συστήματος (τυχαία δείγματα ετικετών vs. πιθανοτικές ετικέτες) ταξινόμησαν επιτυχώς την ταινία ως κατάλληλη για θεατές ηλικίας 11 ετών και άνω.

Πηγή: https://arxiv.org/pdf/2106.08323.pdf

Για μια σκηνή από Διασπαθής (2018) όπου παρουσιάζεται ένας φοβερός ανταγωνιστής, το διπλό πλαίσιο εκτίμησε σωστά την ηλικιακή κατηγορία ως 11+/15+.

Ωστόσο, ένα κλιπ από το τρέιλερ για Μια Δεύτερη Ευκαιρία (2014) παρουσίασε μεγαλύτερη δυσκολία,既然 το μοντέλο δεν μπόρεσε να συμφωνήσει με τις ανθρώπινες ετικέτες για τη σκηνή, η οποία είχε ταξινομηθεί ως ‘BT’ (κατάλληλο για όλους). Στην πραγματικότητα, ο αλγόριθμος έχει ανιχνεύσει πιθανότητα για ζημιά την οποία οι ανθρώπινοι αξιολογητές δεν έχουν αποδώσει σε αυτό.

Αν και οι ερευνητές αναφέρουν υψηλό βαθμό ακρίβειας για το σύστημα, κάποιες αποτυχίες συνέβησαν, όπως αυτό το κλιπ από Πολιτεία (2011), το οποίο παρουσιάζει έναν κρατούμενο γυμνό άνδρα που απειλείται με τουφέκι.

Σε αυτήν την περίπτωση, το σύστημα έχει ανατεθεί μια βαθμολογία 11+ στο κλιπ, σε αντίθεση με τις ανθρώπινες ετικέτες.

Δυσαρμονία Σκοπού και Επικινδυνότητας

Το έγγραφο σημειώνει ότι στην αξιολόγηση ενός κλιπ από το τρέιλερ για Παγίδευση (2020), το σύστημα ανατέθηκε σωστά μια ‘καθολική’ βαθμολογία στο κλιπ με βάση τα οπτικά και γλωσσικά στοιχεία (αν και οι χαρακτήρες συζητούν πυροβόλα, ο σκοπός είναι κωμικός), αλλά ήταν μπερδεμένο από τη μουσική που χρησιμοποιείται, η οποία μπορεί να έχει σατιρικό контекστό.

Ομοίως, σε ένα τρέιλερ για την ταινία Για την Σάμα (2019), ο απειλητικός στιλ της μουσικής δεν αντιστοιχεί στο οπτικό περιεχόμενο, και πάλι, το σύστημα έχει δυσκολία να διαχωρίσει τα δύο στοιχεία για να κάνει μια ομοιόμορφη κρίση που καλύπτει και τα δύο οπτικά και ηχητικά στοιχεία του κλιπ.

Τέλος, το σύστημα οδηγεί σωστά την ασυμφωνία ήχου/βίντεο σε ένα τρέιλερ κλιπ για Ορεινή Παρθένα (2015), το οποίο περιέχει κάποια απειλητικά οπτικά σημάδια (π.χ. ένα σπασμένο παράθυρο) που υπονομεύονται από τη μουσική. Έτσι, το πλαίσιο εκτιμά σωστά ότι το κλιπ είναι βαθμολογίας ‘καθολικής’ (BT).

Οι ερευνητές παραδέχονται ότι ένα σύστημα αυτού του είδους επικεντρώνεται αποκλειστικά στα παιδιά, με τα αποτελέσματα που είναι απίθανο να γενικευθούν καλά σε άλλους τύπους θεατών. Επίσης, προτείνουν ότι η κωδικοποίηση του “επικίνδυνου” περιεχομένου με αυτόν τον γραμμικό τρόπο θα μπορούσε να οδηγήσει σε αλγορίθμους βαθμολογίας που είναι λιγότερο απρόβλεπτοι, αλλά σημειώνουν την πιθανότητα ανεπιθύμητης καταστολής ιδεών στην ανάπτυξη τέτοιων προσεγγίσεων:

‘Η αξιολόγηση του αν το περιεχόμενο είναι επικίνδυνο είναι ένα λεπτό ζήτημα. Υπάρχει ένας σημαντικός ισορροπία μεταξύ της ελευθερίας της πληροφόρησης και της προστασίας ευαίσθητων ομάδων. Πιστεύουμε ότι αυτή η εργασία κάνει ένα βήμα προς τη σωστή κατεύθυνση, διατηρώντας όσο το δυνατόν πιο διαφανή τα κριτήρια που χρησιμοποιούνται για την αξιολόγηση της επικινδυνότητας. Επιπλέον, πιστεύουμε ότι η διάκριση της επικινδυνότητας από την καταλληλότητα είναι ένα σημαντικό βήμα για την καθολική ταξινόμηση του επικίνδυνου περιεχομένου.

‘…Η ανίχνευση του επικίνδυνου περιεχομένου είναι επίσης ενδιαφέρον για τις διαδικτυακές πλατφόρμες όπως το YouTube. Σε τέτοιες πλατφόρμες, η ισορροπία μεταξύ της ελευθερίας της πληροφόρησης και της προστασίας γίνεται ακόμη πιο σημαντική και είναι περαιτέρω επιπλεχθεί από την ιδιωτική φύση των αλγορίθμων που είναι υπεύθυνοι.’