يمنع Reddit مجتمع Deepfake “SFW”

خلال عطلة نهاية الأسبوع ، على ما يبدو في وقت ما حول يوم الأحد ، حظرت Reddit مجتمع Deepfakes “SFW” المسمى r/deepfakesfw. كان هذا المجتمع واحد من الاستجابات المبكرة لحذف عملاق وسائل التواصل الاجتماعي للمجتمع الأصلي r/deepfakes في عام 2018 ، الذي كان يحتوي على محتوى إباحي منشأ بواسطة الذكاء الاصطناعي.

الأسطورة النموذجية (المعروفة جيدًا) التي ترحب الآن بزوار الموقع تفسر أن المجتمع “تم حظره بسبب انتهاك لقواعد Reddit المتعلقة بالمحتوى الإباحي الغير طوعي”.

الصفحة الرئيسية الجديدة لمجتمع r/deepfakesfw.

لم يتم أرشفة مجتمع r/deepfakesfw بشكل متكرر من قبل منصات الحفاظ على المحتوى الشهيرة ، ولكن أحدث لقطة لWayBack Machine ، التي تم التقاطها قبل عشرة أيام (في 3 يونيو 2022) ، تشير إلى أن المجتمع كان يضم 3,095 قارئًا في ذلك الوقت.

هذا الرقم هو في الواقع أعلى من عدد المشتركين في مجتمع r/DeepFakesSFW (لاحظ الحرف الإضافي “s”) ، الذي يضم حاليًا 2,827 قارئًا (اللقطة المأرشفة تم التقاطها يوم الإثنين ، 13 يونيو 2022). يبدو أن المجتمع الأكثر شعبية لمجتمعات Deepfakes “SFW” الشرعية هو حاليًا r/SFWdeepfakes ، الذي يضم 16,636 قارئًا (اللقطة تم التقاطها يوم الإثنين ، 13 يونيو 2022).

لا تسأل حتى

يبدو أن ما أدى إلى حظر r/deepfakesfw لم يكن نشر المحتوى ، وإنما طلب محتوى إباحي منشأ بواسطة Deepfake. تقول قواعد Reddit المتعلقة bằng الإعلام الجنسي الصريح إن “[الصور] أو الفيديو لشخص ما يتم نشره لغرض إنشاء محتوى صريح أو طلب “مثيل” إباحي (مثل “Deepfakes” أو “porn bubble”) يعد أيضًا مخالفًا للقاعدة”.

根据 آخر تغذية إخبارية متاحة من المجتمع المحظور r/deepfakesfw ، يبدو أن الطلب وليس النشر هو ما أدى إلى الحظر:

بعض المنشورات النهائية والواضحة غير الصالحة للعمل من مجتمع r/deepfakesfw المحظور. مصدر: Inoreader.

على الرغم من أن المنشورات التي تشير إليها هذه التغذية الإخبارية لم تعد متاحة ، إلا أن النقر على روابط ملفات تعريف المستخدمين الذين يطلبون المحتوى (ممحاة في الصورة أعلاه) يُظهر أن العديد من المُنشَرين يطلبون محتوى Deepfake المحظور عبر أكثر من منتدى واحد ، وهم إما يطلبون أو يقدمون بعضًا من أكثر المحتويات المتطرفة من هذا النوع ، بما في ذلك الإباحية العائلية وأشكال مختلفة من المواضيع الإباحية الغير طوعية.

الظهور البريء لعملية Deepfake والبنية البيئية

منذ أسبوعين ، أصبح واضحًا أن Google حظرت فجأة برامج إنشاء Deepfake من بيئات معالجة سحابية Colab الشهيرة. حتى الآن ، يبدو أن Colab يتم تشغيله فقط بواسطة محاولات تشغيل DeepFaceLab (DFL) ، وهو أكثر برامج Deepfake شعبية في العالم (وأيضًا الأكثر ارتباطًا بالإباحية التي تم إنشاؤها بواسطة الذكاء الاصطناعي) ، chứ không بواسطة تنفيذات أقل شهرة مثل FaceSwap ، والتي تمتلك سمعة أفضل ، على الرغم من أنها تقوم بنفس المهام مثل DFL.

هل سيأتي سياسة “أرض محروقة” لمجتمعات Deepfake؟

السؤال الذي يؤرق سكان مجتمعات Deepfake على Discord مثل DeepFaceLab (بما في ذلك DeepFaceLive) ، FaceSwap ، Machine Video Editor (MVE ، وهو بيئة واجهة مستخدم رسومية ل DFL ، مع العديد من الميزات الإضافية) ، وخواديم Discord الجديدة التي تعمل بالصوت مثل Audio Deepfakes هو هل سيحظر ملاك المنصات والبوابات قريباً مجتمعات Deepfake مبدأيًا ، بدلاً من تحمل تكلفة التحديث المستمر ضد موجة من المتابعين والمنشئين غير الصالحين للعمل؟

قال Bryan Lyon ، أحد مطوري FaceSwap و مالك خادم Discord المرتبط ، في تعليق:^†

‘لقد تمكنا من البقاء على Discord ، على الرغم من عمليات الحذف المتعددة ، من خلال البقاء نظيفًا تمامًا. لا لدينا قنوات مخفية أو خادم سري آخر يحتوي على محتوى غير مشروع. هناك عملية حذف لخادم DeepFaceLab الشهير قبل عامين. تم حظر الجميع عليه. لديهم أدوار دعوة فقط مع إمكانية الوصول إلى قنوات تحتوي على إباحية غير متوافقة.’

نظرًا لأن Google ، وهو أحد أكبر الموارد التكنولوجية في العالم ، قد حظرت تدريب Deepfake على خواديمها ووحدات معالجة الرسومات ، فمن الممكن أن يقرر GitHub المملوك لشركة Microsoft في النهاية أنه تمكين هذه التكنولوجيا* لن يكون في النهاية يستحق الغموض الأخلاقي أو استثمار الرقابة.

في هذا الوقت ، عملية تقنين تكنولوجيا Deepfake بحيث تنتقل استخدامها من إنتاج الإباحية المنزلية إلى إنتاج الأفلام والتلفزيون ، والاستخدامات غير المخالفة للقوانين أو غير الإجرامية ، لا تزال في مرحلة مبكرة جدًا لإنتاج إرشادات سياسية واضحة للمنصات وخدمات استضافة المجتمعات.

* أرشيف https://github.com/search?q=deepfake من يوم الإثنين ، 13 يونيو 2022.
† في رسائل خاصة على Discord.

نشر لأول مرة في 13 يونيو 2022. تم تحريره في الساعة 3:08 مساءً بالتوقيت العالمي المنسق لتعديل الصورة.
تم تعديله يوم الثلاثاء ، 14 يونيو 2022 ، الساعة 6:24 صباحًا بالتوقيت العالمي المنسق ، لإضافة رد المدير على Reddit بشأن حالة NSFW لبعض المنشورات. كما تم تعديل الصورة على صورة التغذية الإخبارية.