زاوية Anderson

Reddit يحظر مجتمع تزييف عميق يصف نفسه بأنه مناسب للعمل

Martin Anderson
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةحظر ريديت مجتمع r/deepfakesfw بسبب التماس المواد الإباحية غير الطوعية، وليس لنشرها.
عرض المزيد
  • حظر ريديت مجتمع r/deepfakesfw بسبب التماس المواد الإباحية غير الطوعية، وليس لنشرها.
  • حظرت جوجل تدريب التزييف العميق على كولاب، لكنها تطبق ذلك فقط على أداة ديب فيس لاب وليس على الأدوات الأخرى.
  • تستمر مجتمعات التزييف العميق المشروعة في البقاء فقط من خلال الإشراف الصارم ضد طلبات المحتوى الجنسي غير اللائق.

خلال عطلة نهاية الأسبوع، على ما يبدو قرب يوم الأحد، حظر Reddit مجتمع التزييف العميق r/deepfakesfw الذي يصف نفسه بأنه SFW، أي مناسب للمشاهدة في مكان العمل. وكان هذا المجتمع من الاستجابات المبكرة لقيام عملاق التواصل الاجتماعي على الفور بـحذف مجتمع r/deepfakes الأصلي، الذي كان يعج بالمحتوى الإباحي المولد بالذكاء الاصطناعي، في عام 2018.

توضح الرسالة النمطية نسبيًا التي تظهر الآن للزوار (لقطة أرشيفية من الاثنين 13 يونيو) أنه «حُظر بسبب انتهاك قواعد Reddit التي تمنع المواد الإباحية دون موافقة الأشخاص الظاهرين فيها».

الصفحة الرئيسية الجديدة لمجتمع r/deepfakesfw.

الصفحة الرئيسية الجديدة لمجتمع r/deepfakesfw.

لم تحفظ خدمات الأرشفة الشائعة مجتمع r/deepfakesfw كثيرًا، لكن أحدث لقطة متاحة على WayBack Machine، المحفوظة قبل نحو عشرة أيام، في 3 يونيو 2022، تشير إلى أنه كان يضم 3,095 قارئًا آنذاك.

وهذا في الواقع عدد مشتركين أكبر من r/DeepFakesSFW (لاحظ حرف s الإضافي)، الذي يضم حاليًا 2,827 قارئًا (لقطة أرشيفية من الاثنين 13 يونيو 2022). ويبدو أن أكثر مجتمعات التزييف العميق المناسبة للعمل «المشروعة» شعبية حاليًا هو r/SFWdeepfakes، الذي يضم وقت الكتابة 16,636 قارئًا (لقطة من الاثنين 13 يونيو 2022).

لا تطلب ذلك حتى

يبدو أن ما تسبب في إغلاق r/deepfakesfw لم يكن نشر المواد الإباحية المزيفة، بل طلبها. وتنص قواعد Reddit بشأن الوسائط الجنسية الصريحة على ما يلي:

«نشر [صور] أو فيديو لشخص آخر لغرض محدد هو تلفيق محتوى جنسي صريح أو طلب مواد إباحية لأشخاص يشبهونه، مثل التزييف العميق أو bubble porn، يخالف القاعدة أيضًا».

استنادًا إلى آخر خلاصات RSS المتاحة من المجتمع المصنف SFW والمحظور الآن، فإن طلب محتوى التزييف العميق غير المناسب للعمل، لا نشره، هو ما أدى في النهاية إلى الحظر.

بعض آخر منشورات NSFW من r/deepfakesfw. المصدر: Inoreader.

بعض آخر المنشورات الواضحة التصنيف NSFW من مجتمع r/deepfakesfw المغلق الآن. المصدر: Inoreader.

مع أن المنشورات التي تشير إليها خلاصات RSS لم تعد متاحة، فإن النقر على روابط حسابات مقدمي الطلبات، المموهة في الصورة أعلاه، يكشف أن كثيرين يطلبون محتوى تزييف عميق محظورًا عبر أكثر من منتدى. ويطلب بعضهم أو يقدم أنواعًا شديدة التطرف، منها المواد الإباحية المتعلقة بسفاح القربى وأشكال مختلفة من المواد الإباحية دون موافقة الأشخاص الظاهرين فيها.

يشير ذلك إلى أن مجتمعات Reddit المتبقية المصنفة SFW تستمر بفضل سرعة مشرفيها وحرصهم واستجابتهم السريعة. ويبدو أن Reddit لا يريد التحول إلى منتدى إعلانات مبوبة يتيح للأشخاص التواصل والتعامل في التزييف العميق غير المشروع عبر الرسائل الخاصة، عندما لا يمكن طلب ذلك صراحة في المنشورات.

إذا صح ذلك، فقد لا يستمر مجتمع r/DeepFakesSFW، الذي لم يُحظر بعد، طويلًا؛ فالمنشوران الموجودان حاليًا في أعلاه عند فتح عنوان المجتمع الأساسي مع واجهة Reddit القديمة موسومان تحديدًا بـNSFW، وهو وسم يُفترض ألا يتاح أصلًا في هذا المجتمع.

بعض المنشورات المخالفة في r/DeepFakesSFW. المصدر: https://www.reddit.com/r/DeepFakesSFW/

تظهر حاليًا بعض المنشورات المخالفة للقواعد في r/DeepFakesSFW، بحسب الظروف. المصدر: https://www.reddit.com/r/DeepFakesSFW/

يمكن رؤية المنشورين المصنفين NSFW في أعلى المنتدى ضمن الأرشيف هنا (لقطة من الاثنين 13 يونيو 2022).

في الواقع، لا يتاح تصنيف NSFW عند إنشاء منشور جديد في r/DeepFakesSFW، الذي يعمل منذ أربع سنوات وفق معلومات الشريط الجانبي:

التصنيفات المتاحة عند النشر في r/DeepFakesSFW.

التصنيفات المتاحة عند النشر في r/DeepFakesSFW.

لذلك يبدو أن وسوم NSFW في r/DeepFakesSFW وضعها مشرفو المنتدى أو مديرون أعلى مستوى، أو حتى خوارزميات، ربما دون تدخل المشرفين المحليين أو قدرتهم على الاعتراض. تواصلت مع المشرف الوحيد المدرج بشأن ذلك وسأنشر أي مستجدات متاحة.

(تعديل، الثلاثاء 14 يونيو 2022 – رد مشرف في r/DeepFakesSFW قائلًا: «يبدو أن هذا يحدث عندما يكون حساب المستخدم مصنفًا NSFW». ولعل الطريقة الوحيدة لتقليل احتمال هذه الطلبات في مجتمعات التزييف العميق المناسبة للعمل هي حظر المستخدمين الذين حصلوا على هذا التصنيف.)

تتعلق غالبية محتوى هذا المجتمع ومجتمع r/SFWdeepfakes الأكبر باستخدام التزييف العميق لإعادة إسناد أدوار الممثلين في الأفلام الرائجة أو الكلاسيكية، أو للتسلية بطرق أكثر براءة باستخدام الذكاء الاصطناعي والوسائط الشعبية، وهي بالفعل مناسبة للعمل.

رغم أن كثيرًا من هذه المنشورات يقترب على نحو خطير من الحظر لأسباب تتعلق بحقوق النشر، فإن استمرار فيديوهات التزييف العميق غير الإباحية التي تستخدم ملكية فكرية للغير، من صناع YouTube البارزين مثل Ctrl-Shift-Face، يوحي بتسامح واسع من الاستوديوهات وأصحاب الحقوق، على الأقل حاليًا.

المظهر «البريء» لعملية التزييف العميق ومنظومتها

قبل أسبوعين اتضح، وسط كثير من النقاش، أن Google حظرت فجأة برامج إنشاء التزييف العميق في بيئات المعالجة السحابية Colab الشهيرة. وحتى الآن لا يبدو أن القيود تُفعّل إلا عند محاولة تشغيل DeepFaceLab (DFL)، أشهر برامج التزييف العميق في العالم وأكثرها ارتباطًا بالمواد الإباحية المولدة بالذكاء الاصطناعي، بخلاف برامج أقل استخدامًا مثل FaceSwap الذي يتمتع بسمعة أفضل، رغم أنه يؤدي المهام نفسها تمامًا.

ربما كان هذا النهج، إلى حد ما، الطريقة الوحيدة التي تستطيع Colab بها فرض أي قيود على إنتاج المواد الإباحية المزيفة؛ فالتدريب نفسه لا يستخدم سوى برامج مفتوحة المصدر وصور وجوه مقصوصة بشدة، عادة بحجم 512×512 بكسل أو أقل، بحيث تكاد تنعدم إمكانية اكتشاف خوارزميات التعرف على الصور لأي محتوى إباحي فعلي.

بعد تدريب النموذج، لا يحتاج المصمم إلى قوة Colab الهائلة أو معالج رسومي محلي باهظ الثمن. فمعظم عمليات التحويل الفعلية، أي تركيب الوجه في فيديو إباحي أو غيره، ممكنة محليًا على معالج رسومي ضعيف في حاسوب محمول، أو حتى على المعالج المركزي مع وقت أطول قليلًا. وعندما يظهر أي محتوى إباحي فعلي في العملية تكون Colab قد خرجت منها منذ وقت طويل.

لذلك نادرًا ما تتجاوز العناصر المتبادلة بين صناع هذه المواد احتمال انتهاك طفيف لحقوق النشر، في شكل تبادل مجموعات صور وجوه مستخرجة من YouTube وأقراص Blu-ray والمقابلات التلفزيونية ومواقع التواصل وغيرها.

هل تقترب سياسة «الأرض المحروقة» من مجتمعات التزييف العميق؟

السؤال الذي يقلق أعضاء مجتمعات التزييف العميق على Discord، مثل DeepFaceLab (بما فيه DeepFaceLive)، وFaceSwap، وMachine Video Editor (MVE، وهو بيئة لـDFL بواجهة رسومية ومزايا إضافية كثيرة)، وخوادم التزييف الصوتي الجديدة مثل Audio Deepfakes، هو: هل سيحظر أصحاب البوابات والمنصات الحاليون مجتمعات التزييف العميق من حيث المبدأ بدل تحمل تكلفة الإشراف المستمر لمواجهة موجة مؤيدي وصناع المحتوى غير المناسب للعمل؟

علق Bryan Lyon، أحد مطوري FaceSwap ومالك خادم Discord المرتبط بالمشروع، قائلًا†:

«تمكنا من البقاء على Discord رغم عدة حملات تطهير، بالتزامنا التام بالنظافة. ليس لدينا قنوات خفية أو خادم ثانٍ سري بمحتوى غير مشروع. جرت حملة على خادم DeepFaceLab الشهير قبل بضع سنوات، وحُظر كل من فيه. كانت لديهم أدوار لا تُمنح إلا بالدعوة وتتيح الوصول إلى قنوات تضم مواد إباحية دون موافقة الأشخاص الظاهرين فيها».

بما أن Google، وهي نفسها من أكبر موارد الاستضافة التقنية في العالم، حظرت تدريب التزييف العميق على خوادمها ومعالجاتها الرسومية حظرًا شاملًا، فقد يقرر GitHub المملوك لـMicrosoft أن تيسير هذه التقنيات* لا يستحق في النهاية الغموض الأخلاقي أو الاستثمار في الرقابة.

حاليًا، لا تزال عملية إضفاء المشروعية على تقنيات التزييف العميق، بحيث ينتقل استخدامها من الإباحية المنزلية إلى الإنتاج السينمائي والتلفزيوني والتطبيقات التي لا تنتهك حقوق الغير ولا تشكل جرائم، في بدايتها، ولا تكفي لإنتاج إرشادات واضحة للمنصات وخدمات استضافة المجتمعات.

 

* أرشيف https://github.com/search?q=deepfake من الاثنين 13 يونيو 2022.
† في رسائل خاصة على Discord.

نُشر أول مرة في 13 يونيو 2022. عُدل الساعة 15:08 بالتوقيت العالمي المنسق لتعديل الصورة.
عُدل الثلاثاء 14 يونيو 2022 الساعة 06:24 بالتوقيت العالمي المنسق لإضافة رد مشرف Reddit بشأن تصنيف بعض أصحاب المنشورات NSFW، وتعديل صورة خلاصات RSS.

كاتب في مجال تعلم الآلة، متخصص في توليد صور البشر. كان رئيسًا سابقًا لمحتوى البحث في Metaphysic.ai، حتى دمجه في Brahma.ai التابعة لـ DNEG.
الموقع الإلكتروني: martinanderson.ai
للتواصل: martin@martinanderson.ai