حظر Reddit لمجتمع Deepfake “SFW”

خلال عطلة نهاية الأسبوع ، على ما يبدو في يوم الأحد ، حظر Reddit مجتمع Deepfakes “SFW” (ملائم للعمل) بعنوان r/deepfakesfw. كان هذا المجتمع_Subreddit واحدًا من الاستجابات المبكرة لحذف عملاق وسائل التواصل الاجتماعي للمجتمع الأصلي r/deepfakes في عام 2018 ، والذي كان يحتوي على محتوى إباحي من صنع الذكاء الاصطناعي.

الأسطورة (التي تعتبر نسبيًا معيارية) التي ترحب الآن بزوار المجتمع (تم التقاط لقطة أرشيف في يوم الإثنين ، 13 يونيو) تفسر أن المجتمع “تم حظره بسبب انتهاك قواعد Reddit المتعلقة بالمحتوى الإباحي غير الطوعي”.

الصفحة الرئيسية الجديدة لمجتمع r/deepfakesfw.

لم يتم أرشفة مجتمع r/deepfakesfw بشكل متكرر من قبل منصات الحفاظ على المحتوى الشهيرة ، ولكن أحدث لقطة أرشيف متاحة على WayBack Machine ، التي تم التقاطها قبل عشرة أيام (في 3 يونيو 2022) ، تشير إلى أن المجتمع كان يضم 3,095 قارئًا في ذلك الوقت.

هذا رقم أعلى من عدد المشتركين في مجتمع r/DeepFakesSFW (الذي يحتوي على حرف “s” إضافي) ، والذي يضم حاليًا 2,827 قارئًا (تم التقاط لقطة أرشيف في يوم الإثنين ، 13 يونيو 2022). يبدو أن المجتمع الأكثر شعبية لمجتمعات Deepfakes “SFW” الشرعية حاليًا هو r/SFWdeepfakes ، والذي يضم 16,636 قارئًا (تم التقاط لقطة أرشيف في يوم الإثنين ، 13 يونيو 2022).

لا تسأل حتى

يبدو أن ما أدى إلى حظر مجتمع r/deepfakesfw لم يكن النشر ، وإنما الطلب على محتوى إباحي من صنع الذكاء الاصطناعي. تنص قواعد Reddit على ما يلي:

‘الصور أو الفيديو التي تُنشَر لغرض إنشاء محتوى إباحي أو طلب “شبيه” إباحي (مثل “الصور المزيفة” أو “البबल بورن”) مخالفة للقواعد.’

بناءً على آخر تغذية إخبارية متاحة من المجتمع المحظور ، يبدو أن الطلب على محتوى إباحي من صنع الذكاء الاصطناعي هو ما أدى في النهاية إلى الحظر.

بعض المنشورات النهائية والواضحة غير الملائمة لمجتمع r/deepfakesfw.

على الرغم من أن المنشورات التي تشير إليها هذه التغذية الإخبارية لم تعد متاحة ، إلا أن النقر على روابط الملفات الشخصية للمستخدمين الذين طلبوا المحتوى الإباحي (المحذوفة في الصورة أعلاه) يكشف أن العديد منهم يطلبون محتوى إباحي محظور عبر أكثر من منتدى ، ويطلبون أو يقدمون بعض أكثر المحتويات المتطرفة من هذا النوع.

هذا يشير إلى أن المجتمعات المتبقية “SFW” على Reddit تنجو بفضل سرعة و勤اسة ووقت استجابة سريع من قبل مشرفيها ، منذ أن يبدو أن Reddit غير راغب في أن يصبح منصة إعلانات تصنيفية ل人们 للتواصل وتنفيذ معاملات غير شرعية لمحتوى إباحي من صنع الذكاء الاصطناعي عبر الرسائل الخاصة.

مظهر Deepfake البريء والبنية البيئية

منذ أسبوعين ، أصبح من المعروف أن Google حظرت برمجيات إنشاء Deepfakes من بيئات معالجة سحابية Colab الشهيرة. حتى الآن ، يبدو أن Colab يتم تفعيله فقط عند محاولة تشغيل DeepFaceLab (DFL) ، وهو أكثر برامج Deepfakes شعبية في العالم (والذي يرتبط ارتباطًا وثيقًا بالمحتوى الإباحي من صنع الذكاء الاصطناعي).

بمعنى ما ، قد يكون هذا النهج هو السبيل الوحيد الذي يمكن أن تتبعه Colab لتنفيذ أي قيود على إنتاج المحتوى الإباحي من صنع الذكاء الاصطناعي ، منذ أن يستخدم عملية تدريب Deepfake برمجيات مفتوحة المصدر وصور وجوه محددة بدقة (عادةً 512×512 بكسل ، وأحيانًا أقل) ، مع إمكانية ضئيلة لخوارزميات التعرف على الصور لاعتراض أي محتوى إباحي حقيقي.

هل سيأتي سياسة “أرض محروقة” لمجتمعات Deepfake?

السؤال الذي يؤرق سكان مجتمعات Deepfake على Discord مثل DeepFaceLab (بما في ذلك DeepFaceLive) و FaceSwap و Machine Video Editor (MVE) وbservers الجديدة لDeepfakes الصوتية مثل Audio Deepfakes هو: “هل سوف يحظر ملاك المنصات ومجتمعات Deepfakes قريباً على مبدأ أنهم لا يرغبون في تحمل تكاليف المراقبة المستمرة ضد موجة من المشاركين والمبدعين غير الملائمين؟”

أشار Bryan Lyon ، أحد مطوري FaceSwap و مالك خادم Discord المرتبط بالمشروع ، إلى أن: “لقد تمكنا من البقاء على Discord على الرغم من عمليات التطهير المتعددة ، من خلال البقاء نظيفًا تمامًا. لا نملك قنوات مخفية أو خادمًا سريًا الثاني مع محتوى غير لائق. هناك تطهير لمجتمع DeepFaceLab الشهير قبل عامين. تم حظر الجميع. كان لديهم أدوار مدعوة فقط مع وصول إلى قنوات تحتوي على مواد إباحية غير متوافقة.”

نظرًا لأن Google ، واحدة من أكبر الموارد التكنولوجية في العالم ، قد حظرت تدريب Deepfakes على خوادمه ومعالجاتها الرسومية ، فمن الممكن أن يقرر GitHub المملوك لشركة Microsoft أن تسهيل هذه التكنولوجيا قد لا يكون يستحق الغموض الأخلاقي أو استثمار الرقابة.

في هذه الأثناء ، يبدو أن عملية تعزيز تقنيات Deepfakes لتحويل استخدامها بعيدًا عن الإباحية المنزلية نحو إنتاج الأفلام والتلفزيون والاستخدامات غير المخالفة للقانون لا تزال في مرحلة بدائية للغاية لتحديد إرشادات سياسية واضحة للمنصات وخدمات الاستضافة المجتمعية.

أرشيف https://github.com/search?q=deepfake من يوم الإثنين ، 13 يونيو 2022.
† في رسائل خاصة على Discord.

نشر لأول مرة في 13 يونيو 2022. تم تحريره في الساعة 3:08 مساءً بالتوقيت العالمي المنسق لتعديل الصورة.
تم تعديله في يوم الثلاثاء ، 14 يونيو 2022 ، الساعة 6:24 صباحًا بالتوقيت العالمي المنسق ، لإضافة رد المدير على Reddit بشأن حالة NSFW لبعض المشاركين. كما تم تعديل الصورة على صورة التغذية الإخبارية.