Reddit ลบชุมชน ‘SFW’ Deepfake

ในช่วงสุดสัปดาห์ที่ผ่านมา Reddit ได้ลบชุมชน ‘SFW’ (Safe For Work) deepfakes ที่มีชื่อว่า r/deepfakesfw ซึ่งเป็นหนึ่งในคำตอบแรกๆ ของการลบชุมชน r/deepfakes เดิมที่มีเนื้อหาพอร์นโดยใช้ AI ในปี 2018

ป้ายคำอธิบายที่แสดงให้เห็นเมื่อเข้าชมชุมชนนี้ (ภาพถ่ายหน้าจอในวันจันทร์ที่ 13 มิถุนายน) ระบุว่า “ถูกแบนเนื่องจากการละเมิดนโยบายของ Reddit เกี่ยวกับเนื้อหาที่ไม่เหมาะสม”

หน้าแรกใหม่ของ r/deepfakesfw.

ชุมชน r/deepfakesfw ไม่ได้ถูกเก็บถาวรบ่อยนัก แต่ภาพถ่ายหน้าจอของ WayBack Machine ที่ถ่ายเมื่อ 10 วันก่อน (3 มิถุนายน 2022) ระบุว่าชุมชนมีผู้อ่าน 3,095 คนในขณะนั้น

ซึ่งเป็นตัวเลขที่สูงกว่าชุมชน r/DeepFakesSFW (มี ‘s’ เพิ่มเติม) ซึ่งมีผู้อ่าน 2,827 คน (ภาพถ่ายหน้าจอในวันจันทร์ที่ 13 มิถุนายน 2022) ชุมชน ‘SFW’ deepfakes ที่ได้รับความนิยมมากที่สุดในปัจจุบันคือ r/SFWdeepfakes ซึ่งมีผู้อ่าน 16,636 คน (ภาพถ่ายหน้าจอในวันจันทร์ที่ 13 มิถุนายน 2022)

อย่าถามเลย

สิ่งที่ทำให้ชุมชน r/deepfakesfw ถูกแบนไม่ใช่การโพสต์ แต่เป็นการ “ขอ” พอร์น deepfake Reddit มีนโยบายเกี่ยวกับเนื้อหาที่ไม่เหมาะสมที่ระบุว่า:

‘[รูปภาพ] หรือวิดีโอของบุคคลอื่นที่โพสต์โดยมีจุดมุ่งหมายเพื่อสร้างเนื้อหาที่ไม่เหมาะสมหรือการขอ “ดูเหมือน” พอร์น (เช่น “deepfakes” หรือ “bubble porn”) ก็ถือเป็นการละเมิดนโยบายด้วย’

ตามการให้ข้อมูลล่าสุดจากชุมชน r/deepfakesfw ที่ถูกแบนแล้ว การขอเนื้อหาที่ไม่เหมาะสม deepfake มากกว่าการโพสต์เองที่ทำให้ชุมชนถูกแบน:

บางส่วนของโพสต์ NSFW สุดท้ายจากชุมชน r/deepfakesfw ที่ถูกแบน Source: Inoreader.

แม้ว่าโพสต์ที่ลิงก์ไปจะไม่สามารถเข้าถึงได้ แต่การคลิกลิงก์โปรไฟล์ของผู้ขอ (ซึ่งถูกปิดบังในภาพด้านบน) จะแสดงให้เห็นว่าผู้โพสต์หลายคนขอเนื้อหาที่ไม่เหมาะสม deepfake ในหลายๆ ฟอรัม และบางคนขอหรือเสนอน้ำเสียงพอร์นอย่างรุนแรง รวมถึงพอร์นลูกหลานและน้ำเสียงที่ไม่เหมาะสมอื่นๆ

สิ่งนี้ชี้ให้เห็นว่าชุมชน ‘SFW’ ของ Reddit อื่นๆ อาจรอดชีวิตได้จากการทำงานอย่างรวดเร็วของม็อดเดอร์ เนื่องจาก Reddit ไม่เต็มใจที่จะกลายเป็น “เว็บไซต์ประกาศซื้อขาย” สำหรับคนในการเชื่อมต่อและทำธุรกรรม deepfake ที่ไม่เหมาะสมผ่าน DM (ในกรณีที่ไม่สามารถขอได้โดยตรง)

หากเป็นเช่นนั้น ชุมชน r/DeepFakesSFW ที่ยังไม่ถูกแบนอาจมีอายุการใช้งานที่จำกัด โพสต์สองโพสต์บนหน้าแรกของชุมชน r/DeepFakesSFW เมื่อเข้าชมโดยใช้ธีม “เก่า” ของ Reddit มีเครื่องหมาย “NSFW” (ซึ่งไม่ควรใช้ได้ในชุมชนนี้)

ขึ้นอยู่กับสถานการณ์ บางโพสต์ที่ละเมิดกฎอาจปรากฏใน r/DeepFakesSFW Source: https://www.reddit.com/r/DeepFakesSFW/

คุณสามารถดูสองโพสต์ NSFW เหล่านี้ที่ด้านบนของ r/DeepFakesSFW ที่เก็บถาวร ที่นี่ (ภาพถ่ายหน้าจอในวันจันทร์ที่ 13 มิถุนายน 2022)

ไม่มีแท็ก “NSFW” ที่สามารถใช้ได้เมื่อโพสต์ใหม่ใน r/DeepFakesSFW ซึ่งได้ดำเนินการมา 4 ปีตามข้อมูลด้านข้าง:

แท็กที่มีอยู่เมื่อโพสต์ใน r/DeepFakesSFW.

ดังนั้น แท็ก “NSFW” ที่ r/DeepFakesSFW จึงดูเหมือนว่าจะถูกใช้โดยม็อดเดอร์ของฟอรัมหรือผู้ดูแลระบบระดับสูง – หรือแม้แต่อัลกอริทึม โดยไม่มีการแทรกแซงหรือคัดค้านจากม็อดเดอร์ท้องถิ่น ฉันส่งคำถามไปยังผู้ดูแลระบบเพียงคนเดียวของ r/DeepFakesSFW เกี่ยวกับเรื่องนี้ และจะโพสต์ข้อมูลอัปเดตใดๆ ที่มีอยู่

(แก้ไข วันจันทร์ที่ 13 มิถุนายน 2022 – ผู้ดูแลระบบของ r/DeepFakesSFW ได้ตอบกลับ โดยระบุว่า ‘ดูเหมือนว่าจะเกิดขึ้นเมื่อบัญชีผู้ใช้เป็น NSFW’ สมมติว่าทางเดียวที่จะชะลอความน่าจะเป็นของคำขอเหล่านี้ใน subreddit deepfake ‘SFW’ คือการแบนผู้ใช้ที่ได้รับการจัดประเภทนี้)

ส่วนใหญ่ของเนื้อหาที่ชุมชนนี้และชุมชน r/SFWdeepfakes ที่ใหญ่กว่านั้นเกี่ยวข้องกับการใช้เทคโนโลยี deepfake เพื่อ “เปลี่ยนนักแสดง” จากภาพยนตร์หรือซีรีส์ที่มีชื่อเสียง หรือเพื่อมี “ความสนุก” ที่ไม่มีอันตรายมากนักโดยใช้ AI และสื่อถึง deepfake จริงๆ

แม้ว่าโพสต์หลายโพสต์จะอยู่ใกล้กับขอบเขตของการละเมิดลิขสิทธิ์ แต่การอยู่รอดของโพสต์วิดีโอ deepfake ที่ไม่ใช่พอร์นจากผู้สร้างวิดีโอ deepfake ใน YouTube เช่น Ctrl-Shift-Face ชี้ให้เห็นว่ามีการยอมรับจากสตูดิโอและผู้ถือสิทธิ์ต่อการกระทำดังกล่าวอย่างน้อยในขณะนี้

รูปลักษณ์ที่ ‘บริสุทธิ์’ ของกระบวนการและระบบนิเวศของ Deepfake

เมื่อสองสัปดาห์ก่อน มีการเปิดเผย (และถูกอภิปรายมาก) ว่า Google ได้แบนซอฟต์แวร์สร้าง deepfake จากสภาพแวดล้อมการประมวลผลคลาวด์ Colab ที่ได้รับความนิยม แม้ว่าจะมีการถูกต้องตามกฎหมาย แต่วิธีนี้อาจเป็นวิธีเดียวที่ Colab สามารถใช้ในการจำกัดการผลิตพอร์น deepfake ได้ เนื่องจากกระบวนการฝึกอบรม deepfake ใช้ซอฟต์แวร์แบบเปิดและภาพใบหน้าที่ถูกตัดออกมา (โดยทั่วไปมีขนาด 512×512 พิกเซล หรือแม้แต่น้อยกว่านั้น) โดยมีโอกาสที่จะถูกจับได้โดยอัลกอริทึมการรู้จำภาพน้อยมาก

เมื่อโมเดล deepfake ได้รับการฝึกอบรมแล้ว ผู้สร้าง deepfake ไม่ต้องการพลังประมวลผลที่มากของ Colab หรือ GPU ท้องถิ่นที่มีราคาแพงอีกต่อไป การ “แปลง” (เช่น การนำใบหน้ามาใส่ในวิดีโอ) สามารถทำได้บน GPU ของแล็ปท็อปที่มีพลังการประมวลผลต่ำ – หรือแม้แต่บน CPU (ด้วยเวลาการประมวลผลที่ยาวขึ้นเล็กน้อย) เมื่อกระบวนการ deepfake เกิดขึ้น Colab จะถูกตัดออกจากกระบวนการแล้ว

ดังนั้น ส่วนประกอบที่ถูกส่งระหว่างผู้สร้าง deepfake พอร์นจึงไม่แสดงถึงการละเมิดลิขสิทธิ์มากกว่าการละเมิดลิขสิทธิ์เล็กน้อยในรูปแบบของ “ชุดใบหน้า” ซึ่งผู้สร้าง deepfake ได้ถอดออกจากวิดีโอใน YouTube, Blu-ray, การสัมภาษณ์ที่ออกอากาศ, สื่อสังคม, และแหล่งอื่นๆ

นโยบาย ‘พื้นที่ถูกทำลาย’ กำลังจะมาถึงชุมชน Deepfake หรือไม่?

คำถามที่ทำให้ผู้คนในชุมชน Discord ของ deepfake เช่น DeepFaceLab (รวม DeepFaceLive), FaceSwap, Machine Video Editor (MVE, สภาพแวดล้อม GUI สำหรับ DFL ที่มีคุณสมบัติเพิ่มเติม) และเซิร์ฟเวอร์ Discord ใหม่สำหรับ deepfake เสียง เช่น Audio Deepfakes คือ เจ้าของพอร์ทัลและแพลตฟอร์มจะแบนชุมชน deepfake โดยหลักการ แทนที่จะแบกรับต้นทุนการดูแลอย่างต่อเนื่องต่อผู้สร้างและผู้ใช้พอร์น deepfake ที่ไม่เหมาะสม?

Bryan Lyon หนึ่งในผู้พัฒนา FaceSwap และเจ้าของเซิร์ฟเวอร์ Discord ที่เกี่ยวข้อง ได้ให้ข้อความว่า:

‘เรารักษาสถานะ “สะอาด” ไว้ได้โดยไม่มีช่องทางหรือเซิร์ฟเวอร์หลักที่มีเนื้อหาที่ไม่เหมาะสม เรามีการล้างพอร์ทัลหลายครั้ง แต่ไม่มีใครถูกแบน มีการทำความสะอาดเซิร์ฟเวอร์ DeepFaceLab เมื่อหลายปีก่อน ทุกคนในเซิร์ฟเวอร์ถูกแบน พวกเขาได้สร้างบทบาทที่มีการเชิญเพื่อเข้าถึงช่องทางที่มีเนื้อหาที่ไม่เหมาะสม’

เมื่อ Google ซึ่งเป็นหนึ่งในทรัพยากรทางเทคโนโลยีที่ใหญ่ที่สุดในโลก แบนการฝึกอบรม deepfake บนเซิร์ฟเวอร์และ GPU ของตนแล้ว ก็เป็นไปได้ที่ GitHub ซึ่งเป็นของ Microsoft จะตัดสินใจว่าการ การอำนวยความสะดวกเทคโนโลยีเหล่านี้* จะไม่คุ้มค่ากับความคลุมเครือทางศีลธรรมหรือการลงทุนในการดูแล

ในขณะนี้ กระบวนการทำให้เทคโนโลยี deepfake合法เพื่อให้ใช้ในภาพยนตร์และการผลิตที่ไม่ผิดกฎหมายยังอยู่ในช่วงเริ่มต้นเกินกว่าที่จะสร้างแนวทางนโยบายที่ชัดเจนสำหรับแพลตฟอร์มและบริการโฮสต์ชุมชน

* เก็บถาวรของ https://github.com/search?q=deepfake เมื่อวันจันทร์ที่ 13 มิถุนายน 2022
† ใน DM ส่วนตัวบน Discord

เผยแพร่ครั้งแรกเมื่อวันที่ 13 มิถุนายน 2022 แก้ไขเวลา 15:08 น. UTC เพื่อแก้ไขภาพ แก้ไขวันที่ 14 มิถุนายน 2022 เวลา 12:24 UTC เพื่อเพิ่มคำตอบของม็อดเดอร์ Reddit เกี่ยวกับสถานะ NSFW ของผู้โพสต์บางคน และแก้ไขภาพประกอบการให้อาหาร RSS