تحديد المحتوى الضار بالفيديو باستخدام مقاطع الفيلم والإียนรنينج

بحث من المجلس الإعلامي السويدي يطرح نهجًا جديدًا محتملًا لتحديد المحتوى “الضار” تلقائيًا، من خلال اعتبار المحتوى الصوتي والمرئي بشكل منفصل، و使用 بيانات بشرية تم تعليمها كدليل لمواد قد تزعج المشاهدين.

المسمى هل هذا ضار؟ تعلم التنبؤ بدرجات الضرر من الفيديو ، يُظهر البحث الورقة الحاجة إلى أن تأخذ أنظمة التعلم الآلي في الاعتبار السياق الكامل لل场، ويُظهر الطرق العديدة التي يمكن أن يُفسَر بها المحتوى البريء (مثل المحتوى الكوميدي أو الساخر) على أنه ضار في نهج أقل تطورًا ومتعدد الوسائط لتحليل الفيديو – لا سيما لأن موسيقى الفيلم غالبًا ما تُستخدم بطريقة غير متوقعة، إما لزعزعة أو تهدئة المشاهد، وكعرض مقابل وليس كمكمل للمكون المرئي.

مجموعة بيانات من مقاطع فيديو محتملة الضار

يلاحظ الباحثون أن التطورات المفيدة في هذا القطاع قد عُقدت بسبب حماية حقوق النشر للأفلام، مما يجعل إنشاء مجموعات بيانات مفتوحة المصدر عامة مشكلة. كما يلاحظون أن التجارب المماثلة قد عانت من ندرة التسميات لمقاطع الفيلم الكاملة، مما أدى إلى تبسيط البيانات المساهمة في الأعمال السابقة، أو التركيز على جانب واحد فقط من البيانات، مثل التحليل اللوني السائد أو تحليل الحوار.

للتغلب على هذا، قام الباحثون بتجميع مجموعة بيانات من 4000 مقطع فيديو، مقاطع إعلانية مقطوعة إلى قطع بطول عشر ثوان تقريبًا، والتي تم تعليمها بعد ذلك بواسطة معلمي الأفلام المحترفين الذين يُشرفون على تطبيق التصنيفات للافلام الجديدة في السويد، العديد منهم يحملون مؤهلات مهنية في علم النفس الطفولي.

في نظام تصنيف الأفلام السويدي، يُعرَّف المحتوى “الضار” بناءً على إمكانيته لإنتاج مشاعر القلق والخوف والآثار السلبية الأخرى عند الأطفال. يلاحظ الباحثون أن نظام التصنيف هذا يتضمن الكثير من الحدس وال直ور كما يفعل العلم، وبالتالي فإن معايير تعريف “المحتوى الضار” صعبة Quantize وinstill في نظام تلقائي.

تحديد الضرر

يلاحظ البحث أيضًا أن الأنظمة السابقة للتعلم الآلي والخوارزمية التي تناولت هذا التحدي استخدمت كشف الجوانب المحددة كمعايير، بما في ذلك الكشف المرئي عن الدم واللهب، وسماع الانفجار، وتكرار طول الشوط، من بين تعريفات المحتوى الضار المحدودة الأخرى، وبدا أن نهج متعدد المجالات يبدو أكثر احتمالا لتقديم منهجية أفضل للتصنيف التلقائي للمحتوى الضار.

قام الباحثون السويديون بتدريب نموذج شبكة عصبية 8×8 50 طبقة على معيار الحركة البشرية Kinetics-400 مجموعة البيانات، وقاموا بإنشاء هيكل مصمم لدمج التنبؤات المرئية والصوتية.

في الواقع، حل استخدام المقاطع الإعلانية ثلاث مشاكل لإنشاء مجموعة بيانات من هذا القبيل: إنه يلغي مشاكل حقوق النشر؛ وزيادة الاضطراب وتكرار الشوط الأعلى للمقاطع الإعلانية (مقارنة بالافلام الأصلية) يسمح بتكرار أكبر للتعليم؛ ويتأكد من أن انخفاض حدوث المحتوى العنيف أو المزعج في فيلم كامل لا يخلط المجموعة البيانية ويصنفها بشكل غير صحيح على أنها مناسبة للأطفال.

النتائج

مرة واحدة تم تدريب النموذج، قام الباحثون السويديون بتحديث النظام ضد مقاطع الفيديو.

في هذا الإعلان عن العمق (2012)، تم تصنيف نموذجين استُخدما لاختبار النظام (التسميات العشوائية مقابل التسميات الاحتمالية) بشكل صحيح الفيلم على أنه مناسب لمشاهدين يبلغون 11 عامًا أو أكثر.

المصدر: https://arxiv.org/pdf/2106.08323.pdf

لمشهد من Discarnate (2018) حيث يُقدم خصم خارق، قام الإطار المزدوج مرة أخرى بتقدير نطاق العمر المستهدف بشكل صحيح على أنه 11+/15+.

然而، مقطع من مقطع إعلاني لفيلم فرصة ثانية (2014) قد قدم صعوبة أكبر، حيث لم يتمكن النظام من الاتفاق مع التعليقات البشرية للمشهد، والتي صنفتها على أنها “BT” (مقبولة عالميًا). في الواقع، اكتشف الخوارزمية إمكانية ضرر لم يُسنِدها المُحكِّمون البشريون.

على الرغم من أن الباحثين يؤكدون درجة دقة عالية للنظام، فقد حدثت بعض الفشل، مثل مقطع من مدينة الدولة (2011)، والذي يظهر رجلًا عاريًا محتجزًا مهددًا ببندقية.

في هذه الحالة، قام النظام بتعيين تصنيف 11+ للمقطع، على عكس التسميات البشرية.

تنافر النية والضرر

يلاحظ البحث أن التقييم لمقطع من مقطع إعلاني لفيلم Paydirt (2020) ، قام النظام بتعيين تصنيف “عالمي” للمقطع بناءً على الجوانب المرئية واللغوية (على الرغم من أن الشخصيات تتحدث عن الأسلحة النارية، فإن النية كوميدية)، ولكن كان مرتبكًا بالموسيقى المهددة التي تستخدمها، والتي قد تكون لها سياق ساخر.

كذلك في مقطع إعلاني لفيلم من أجل sama (2019) ، لم تتطابق الموسيقى المهددة مع المحتوى المرئي، ومرة أخرى واجه النظام صعوبة في فك التشابك بين المكونين لاتخاذ حكم موحد يغطي كلا المحتوى الصوتي والمرئي للمقطع.

أخيرًا، قام النظام بالملاحة الصوتية / المرئية التنافر في مقطع إعلاني لفيلم جبل العذراء (2015) ، والذي يحتوي على بعض الإشارات المرئية المهددة (مثل النافذة المكسورة) التي يتم تخفيفها بواسطة الموسيقى. وبالتالي، قام الإطار بشكل صحيح بتقدير أن المقطع مصنف على أنه “عالمي” (BT).

يقر الباحثون بأن نظامًا من هذا القبيل يركز حصريًا على الأطفال، ونتائجها غير محتملة للتعميم جيدًا على أنواع أخرى من المشاهدين. كما يُقترح أن التشفير “المحتوى الضار” بهذه الطريقة الخطية يمكن أن يؤدي إلى أنظمة تصنيف خوارزمية أقل غير متوقعة، ولكنه يشير إلى إمكانية القمع غير المرغوب فيه للأفكار في تطوير هذه المناهج:

‘تقييم ما إذا كان المحتوى ضارًا هو vấnة دقيقة. هناك توازن مهم بين حرية المعلومات وحماية المجموعات الحساسة. نعتقد أن هذا العمل يأخذ خطوة في الاتجاه الصحيح، من خلال أن يكون شفافًا قدر الإمكان حول المعايير المستخدمة لتقييم الضرر. بالإضافة إلى ذلك، نعتقد أن فصل الضرر عن الملاءمة هو خطوة مهمة نحو جعل تصنيف المحتوى الضار أكثر موضوعية.

‘… كشف المحتوى الضار هو أيضًا من المثير للاهتمام منصات الإنترنت مثل يوتيوب. على هذه المنصات، يصبح توازن حرية المعلومات والحماية أكثر أهمية ويُضاف إليه تعقيدًا بسبب الطبيعة المملوكة للخوارزميات المسؤولة.’