การระบุเนื้อหาวิดีโอที่เป็นอันตรายด้วยตัวอย่างหนังและแมชชีนเลิร์นนิง

งานวิจัยจากสภาสื่อของสวีเดนได้เสนอแนวทางใหม่ในการระบุเนื้อหาที่เป็นอันตรายโดยอัตโนมัติ โดยพิจารณาเนื้อหาออดิโอและวิดีโอแยกจากกัน และใช้ข้อมูลที่ได้รับการอธิบายโดยมนุษย์เป็นดัชนีสำหรับวัสดุที่อาจทำให้ผู้ชมเกิดความกังวล

เรียกชื่อ Is this Harmful? Learning to Predict Harmfulness Ratings from Video งานวิจัย แสดงให้เห็นถึงความจำเป็นของระบบแมชชีนเลิร์นนิงที่จะต้องพิจารณาบริบททั้งหมดของฉาก และแสดงให้เห็นว่าเนื้อหาที่ไม่เป็นอันตราย (เช่น เนื้อหาที่ตลกหรือเสียดสี) อาจถูกเข้าใจผิดว่าเป็นอันตรายในแนวทางที่ไม่ซับซ้อนและหลายมิติในการวิเคราะห์วิดีโอ – ไม่เพียงเพราะเพลงประกอบภาพยนตร์มักใช้ในรูปแบบที่ไม่คาดคิด เช่น เพื่อทำให้ผู้ชมไม่สบายใจหรือให้ความมั่นใจ และเป็นคอนทราสต์กับองค์ประกอบภาพ

ชุดข้อมูลวิดีโอที่อาจเป็นอันตราย

นักวิจัยสังเกตว่าการพัฒนาที่มีประโยชน์ในภาคส่วนนี้ถูกขัดขวางโดยการคุ้มครองลิขสิทธิ์ของภาพยนตร์ ซึ่งทำให้การสร้างชุดข้อมูลแบบเปิดที่ครอบคลุมเป็นปัญหา พวกเขายังพบว่าการทดลองที่คล้ายกันในอดีตได้รับผลกระทบจากข้อมูลที่มีฉลากสำหรับภาพยนตร์เต็มความยาวที่มีจำนวนไม่มาก ซึ่งนำไปสู่การทำงานก่อนหน้าที่ทำให้ข้อมูลง่ายเกินไป หรือมุ่งเน้นไปที่ด้านเดียวของข้อมูล เช่น สีหรือการวิเคราะห์บทสนทนา

เพื่อแก้ไขปัญหานี้ นักวิจัยได้รวบรวมชุดข้อมูลวิดีโอของคลิปวิดีโอ 4,000 คลิป ซึ่งเป็นตัวอย่างหนังที่ตัดเป็นช่วงเวลาประมาณ 10 วินาที และได้รับการอธิบายโดยนักจำแนกภาพยนตร์มืออาชีพที่ดูแลการให้คะแนนสำหรับภาพยนตร์ใหม่ในสวีเดน ซึ่งหลายคนมีคุณสมบัติทางจิตวิทยาเด็ก

ภายใต้ระบบการจำแนกประเภทภาพยนตร์ของสวีเดน “เนื้อหาที่เป็นอันตราย” ถูกกำหนดตามความน่าจะเป็นที่จะทำให้เกิดความรู้สึกไม่สบายใจ ความกลัว และผลเสียอื่นๆ ในเด็ก นักวิจัยสังเกตว่าเนื่องจากระบบการให้คะแนนนี้เกี่ยวข้องกับ直觉และความเชื่อมากกว่าวิทยาศาสตร์ คุณสมบัติในการกำหนด “เนื้อหาที่เป็นอันตราย” จึงยากที่จะแปลงเป็นตัวเลขและใส่เข้าไปในระบบอัตโนมัติ

การกำหนดความเป็นอันตราย

งานวิจัยดังกล่าวยังพบว่าระบบแมชชีนเลิร์นนิงและอัลกอริทึมก่อนหน้านี้ที่พยายามแก้ไขปัญหานี้ได้ใช้การตรวจจับด้านเฉพาะเป็นเกณฑ์ รวมถึงการตรวจจับภาพของเลือดและเปลวไฟ เสียงการระเบิด และความถี่ของระยะเวลาการถ่ายทำ เป็นต้น และระบบที่มีหลายโดเมินอาจเป็นวิธีการที่ดีกว่าสำหรับการให้คะแนนความเป็นอันตรายอัตโนมัติ

นักวิจัยชาวสวีเดนได้ฝึกอบรมโมเดลเครือข่ายประสาทเทียม 8×8 50 ชั้นบน Kinetics-400 บenchmark ชุดข้อมูล และสร้างสถาปัตยกรรมที่ออกแบบมาเพื่อรวมการคาดการณ์วิดีโอและเสียง

โดยสรุป การใช้ตัวอย่างหนังช่วยแก้ปัญหา 3 ประการสำหรับการสร้างชุดข้อมูลประเภทนี้: มันหลีกเลี่ยงปัญหาลิขสิทธิ์; ความไม่สงบและความถี่ของการถ่ายทำที่เพิ่มขึ้นของตัวอย่างหนัง (เมื่อเทียบกับภาพยนตร์ดั้งเดิม) ช่วยให้สามารถมีการอธิบายที่บ่อยขึ้น; และมันทำให้แน่ใจว่าความถี่ต่ำของเนื้อหาที่รุนแรงหรือทำให้ไม่สบายใจในภาพยนตร์เต็มความยาวไม่ทำให้ชุดข้อมูลไม่สมดุลและทำให้เข้าใจผิดว่าเหมาะสำหรับเด็ก

ผลลัพธ์

หลังจากที่โมเดลได้รับการฝึกอบรมแล้ว นักวิจัยชาวสวีเดนได้ทดสอบระบบกับคลิปวิดีโอ

ในตัวอย่างหนัง เดอะดีพ (2012) โมเดลทั้งสองที่ใช้ในการทดสอบระบบ (ฉลากที่ตัวอย่างแบบสุ่ม vs. ฉลากแบบความน่าจะเป็น) ได้จำแนกภาพยนตร์ให้เหมาะสมสำหรับผู้ชมอายุ 11 ปีขึ้นไป

Source: https://arxiv.org/pdf/2106.08323.pdf

สำหรับฉากจาก ดิสคาร์เนต (2018) ที่ตัวละครอันตรายถูกแนะนำ โครงสร้างแบบคู่ก็สามารถประมาณอายุเป้าหมายได้อย่างถูกต้องว่าเป็น 11+/15+

อย่างไรก็ตาม คลิปจากตัวอย่างหนัง เซคันด์แชนซ์ (2014) มีปัญหา เนื่องจากโมเดลไม่สามารถตกลงกับข้อมูลที่อธิบายโดยมนุษย์สำหรับฉากนั้น ซึ่งได้รับการจำแนกเป็น ‘BT’ (เหมาะสมสำหรับทั่วไป) ในความเป็นจริง ระบบได้ตรวจพบศักยภาพในการก่อให้เกิดอันตรายซึ่งผู้ประเมินโดยมนุษย์ไม่ได้กำหนดให้มัน

แม้ว่านักวิจัยจะยืนยันว่าระบบมีคะแนนความแม่นยำสูง แต่ก็มีการล้มเหลวบางอย่าง เช่น คลิปจาก ซิตี้สเตต (2011) ซึ่งมีตัวละครถูกจับกุมและถูกข่มขู่ด้วยปืน

ในกรณีนี้ ระบบได้กำหนดอายุ 11+ ให้กับคลิป ซึ่งไม่สอดคล้องกับการอธิบายโดยมนุษย์

ความไม่ลงรอยกันระหว่างความตั้งใจและความเป็นอันตราย

งานวิจัยดังกล่าวระบุว่าในการประเมินคลิปจากตัวอย่างหนัง เพย์ดิร์ต (2020) ระบบได้กำหนดคะแนน ‘ทั่วไป’ ให้กับคลิปตามด้านภาพและภาษา (แม้ว่าตัวละครจะพูดถึงอาวุธ แต่ความตั้งใจคือการตลก) แต่สับสนกับดนตรีที่มีลักษณะข่มขู่ซึ่งอาจมีบริบทเสียดสี

ในทำนองเดียวกัน ในตัวอย่างหนัง ฟอร์ ซามา (2019) รูปแบบดนตรีที่ข่มขู่ไม่สอดคล้องกับเนื้อหาภาพ และระบบก็มีปัญหาในการแยกความแตกต่างระหว่างทั้งสองส่วนเพื่อให้ได้การตัดสินที่ครอบคลุมทั้งเนื้อหาเสียงและวิดีโอของคลิป

สุดท้าย ระบบสามารถนำทางความไม่ลงรอยกันระหว่างเสียงและวิดีโอได้สำเร็จในคลิปตัวอย่างหนัง เวอร์จินมาวน์เทน (2015) ซึ่งมีสัญญาณภาพที่มีลักษณะข่มขู่ (เช่น หน้าต่างที่แตก) แต่ถูกทำให้ไม่สำคัญโดยดนตรี ดังนั้นโครงสร้างจึงสามารถเดาคะแนน ‘ทั่วไป’ (BT) ได้อย่างถูกต้อง

นักวิจัยยอมรับว่าระบบประเภทนี้มุ่งเน้นไปที่เด็กเท่านั้น และผลลัพธ์ไม่น่าจะใช้ได้กับผู้ชมประเภทอื่น พวกเขายังแนะนำว่าการเข้ารหัส “เนื้อหาที่เป็นอันตราย” ในลักษณะเชิงเส้นอาจนำไปสู่ระบบการให้คะแนนอัลกอริทึมที่น่าเชื่อถือมากขึ้น แต่ชี้ให้เห็นว่ามีศักยภาพในการกดขี่ความคิดที่ไม่พึงประสงค์ในแนวทางเหล่านี้:

‘การประเมินว่าเนื้อหานั้นเป็นอันตรายหรือไม่นั้นเป็นเรื่องที่ละเอียดอ่อน มีการสร้างสมดุลที่สำคัญระหว่างเสรีภาพของข้อมูลและการปกป้องกลุ่มที่อ่อนแอ เราเชื่อว่างานนี้เป็นก้าวไปในทิศทางที่ถูกต้อง โดยการเปิดเผยเกี่ยวกับเกณฑ์ที่ใช้ในการประเมินความเป็นอันตรายให้มากที่สุดเท่าที่จะเป็นไปได้ นอกจากนี้เรายังเชื่อว่าการแยกความเป็นอันตรายออกจากความเหมาะสมเป็นขั้นตอนสำคัญในการทำให้การจำแนกประเภทของเนื้อหาที่เป็นอันตรายเป็นกลางมากขึ้น.’

‘…การตรวจจับเนื้อหาที่เป็นอันตรายยังเป็นเรื่องที่น่าสนใจสำหรับแพลตฟอร์มออนไลน์ เช่น YouTube บนแพลตฟอร์มเหล่านี้ การสร้างสมดุลระหว่างเสรีภาพของข้อมูลและการปกป้องกลายเป็นเรื่องสำคัญมากขึ้น และยังซับซ้อนเนื่องจากธรรมชาติของอัลกอริทึมที่เป็นกรรมสิทธิ์ที่รับผิดชอบ’