Reddit แบนชุมชน deepfake ที่อ้างว่าเป็น SFW

ในช่วงสุดสัปดาห์ ดูเหมือนจะเป็นวันอาทิตย์ Reddit แบนชุมชน deepfake ที่ใช้ชื่อว่า r/deepfakesfw และอ้างว่าเป็น SFW หรือเหมาะสำหรับเปิดดูในที่ทำงาน ชุมชนนี้เกิดขึ้นเป็นหนึ่งในปฏิกิริยาช่วงแรกต่อการ ลบ r/deepfakes เดิมซึ่งเต็มไปด้วยสื่อลามกที่สร้างด้วย AI อย่างรวดเร็วของแพลตฟอร์มในปี 2018

ข้อความแจ้งตามแบบแผนที่ผู้เข้าชมเห็นในขณะนี้ ตามภาพเก็บถาวรวันจันทร์ที่ 13 มิถุนายน ระบุว่าชุมชน ‘ถูกแบนเนื่องจากละเมิด กฎของ Reddit ว่าด้วยสื่อลามกที่สร้างโดยไม่ได้รับความยินยอม’.

หน้าแรกใหม่ของ r/deepfakesfw

ชุมชน r/deepfakesfw ไม่ได้ถูกเก็บถาวรบ่อยโดยบริการอนุรักษ์เว็บยอดนิยม แต่ ภาพเก็บถาวรล่าสุดของ WayBack Machine เมื่อประมาณสิบวันก่อน วันที่ 3 มิถุนายน 2022 แสดงว่าขณะนั้นชุมชนมีผู้อ่าน 3,095 คน

จำนวนนี้มากกว่าสมาชิกของ r/DeepFakesSFW ซึ่งมีตัว s เพิ่มมาอีกหนึ่งตัว และปัจจุบันมี ผู้อ่าน 2,827 คน ตามภาพเก็บถาวรวันจันทร์ที่ 13 มิถุนายน 2022 ชุมชน SFW deepfake ที่ดูเป็นชุมชนถูกต้องและได้รับความนิยมที่สุดในขณะนี้คือ r/SFWdeepfakes ซึ่งขณะเขียนมี ผู้อ่าน 16,636 คน ตามภาพเก็บถาวรวันจันทร์ที่ 13 มิถุนายน 2022

อย่าแม้แต่จะขอ

สิ่งที่ดูเหมือนทำให้ r/deepfakesfw ถูกแบนไม่ใช่การโพสต์ แต่เป็นการ ร้องขอ สื่อลามก deepfake กฎของ Reddit เกี่ยวกับสื่อทางเพศอย่างโจ่งแจ้งระบุว่า:

‘[รูปภาพ] หรือวิดีโอของบุคคลอื่นที่โพสต์เพื่อปลอมเนื้อหาทางเพศอย่างโจ่งแจ้งโดยเฉพาะ หรือร้องขอสื่อลามกที่ใช้คนหน้าคล้าย เช่น deepfake หรือ bubble porn ก็ถือว่าผิดกฎเช่นกัน’

จาก RSS ล่าสุดที่ยังหาได้ของชุมชน SFW ที่ถูกแบน การร้องขอแทนการโพสต์เนื้อหา deepfake แบบ NSFW เป็นสิ่งที่กระตุ้นการแบนในที่สุด:

โพสต์ช่วงท้ายบางส่วนที่เป็น NSFW อย่างชัดเจนจากชุมชน r/deepfakesfw ที่ถูกปิดไปแล้ว แหล่งที่มา: Inoreader.

แม้โพสต์ที่ RSS เหล่านี้เชื่อมโยงไปจะเปิดไม่ได้แล้ว แต่การคลิกโปรไฟล์ของผู้ร้องขอ ซึ่งถูกเบลอไว้ในภาพด้านบน เผยว่าผู้โพสต์จำนวนมากร้องขอเนื้อหา deepfake ที่ถูกห้ามในหลายฟอรัม และร้องขอหรือเสนอเนื้อหาประเภทนี้ที่รุนแรงที่สุดบางแบบ รวมถึงสื่อลามกเกี่ยวกับการร่วมประเวณีในครอบครัวและเนื้อหาทางเพศโดยไม่ได้รับความยินยอมหลายลักษณะ

สิ่งนี้บ่งชี้ว่าชุมชน SFW ที่เหลืออยู่รอดด้วยความรวดเร็ว ความใส่ใจ และการตอบสนองของผู้ดูแล เพราะ Reddit ดูไม่ต้องการเป็นฟอรัมประกาศซื้อขายให้ผู้คนติดต่อและทำธุรกรรม deepfake ที่ไม่ชอบด้วยกฎผ่านข้อความส่วนตัว เมื่อไม่สามารถร้องขออย่างเปิดเผยในโพสต์ได้

หากเป็นเช่นนั้น r/DeepFakesSFW ที่ยังไม่ถูกแบนก็อาจมีเวลาเหลือไม่มาก โพสต์สองอันดับแรกเมื่อเปิดหน้าหลักด้วยธีม Reddit แบบเก่าถูกติดป้าย NSFW โดยเฉพาะ ทั้งที่ป้ายนี้ไม่น่าจะมีให้ใช้ในชุมชนดังกล่าว

ในบางกรณี โพสต์ที่ละเมิดกฎยังปรากฏอยู่ในชุมชน r/DeepFakesSFW แหล่งที่มา: https://www.reddit.com/r/DeepFakesSFW/

ดูโพสต์ NSFW สองรายการที่อยู่ด้านบนของฟอรัม r/DeepFakesSFW ในวันนี้จากภาพเก็บถาวรได้ ที่นี่ ภาพเก็บถาวรวันจันทร์ที่ 13 มิถุนายน 2022

จริงๆ แล้วไม่มีป้าย flair แบบ NSFW ให้เลือกเมื่อสร้างโพสต์ใหม่ใน r/DeepFakesSFW ซึ่งข้อมูลแถบด้านข้างระบุว่าเปิดดำเนินการมาสี่ปีแล้ว:

ป้าย flair ที่เลือกได้เมื่อโพสต์ใน r/DeepFakesSFW

ดังนั้นป้าย NSFW ใน r/DeepFakesSFW จึงดูเหมือนถูกติดโดยผู้ดูแลฟอรัม ผู้ดูแลระบบระดับสูง หรือแม้แต่อัลกอริทึม โดยผู้ดูแลท้องถิ่นอาจไม่ได้มีส่วนร่วมหรือมีทางคัดค้าน ผู้เขียนติดต่อผู้ดูแลเพียงคนเดียวที่มีชื่ออยู่ของ r/DeepFakesSFW เพื่อสอบถาม และจะเผยแพร่ข้อมูลอัปเดตที่ได้รับ

(แก้ไข วันอังคารที่ 14 มิถุนายน 2022 — ผู้ดูแล r/DeepFakesSFW ตอบว่า ‘ดูเหมือนจะเกิดขึ้นเมื่อบัญชีของผู้ใช้เป็น NSFW’ ดังนั้นทางเดียวที่จะลดโอกาสเกิดคำขอเช่นนี้ในชุมชน deepfake แบบ SFW อาจเป็นการแบนผู้ใช้ที่ได้รับการจัดประเภทดังกล่าว)

เนื้อหาส่วนใหญ่ในชุมชนนี้และ r/SFWdeepfakes ที่ใหญ่กว่าคือการใช้ deepfake เปลี่ยนนักแสดงในภาพยนตร์ยอดนิยมหรือคลาสสิก หรือเล่นกับสื่อและเทคโนโลยี AI อย่างไม่เป็นพิษเป็นภัย จึงเข้าข่าย SFW จริง

แม้หลายโพสต์จะเฉียดการถูกแบนด้วยเหตุลิขสิทธิ์ แต่การที่วิดีโอ deepfake ที่ไม่ใช่สื่อลามกและใช้ทรัพย์สินทางปัญญาของผู้อื่นจากผู้สร้าง YouTube รายใหญ่ เช่น Ctrl-Shift-Face ยังคงอยู่ บ่งชี้ว่าสตูดิโอและผู้ถือสิทธิ์ยอมรับกิจกรรมเช่นนี้ค่อนข้างกว้างอย่างน้อยในขณะนี้

รูปลักษณ์ที่ดูไร้พิษภัยของกระบวนการและระบบนิเวศ deepfake

เมื่อสองสัปดาห์ก่อนมี การเปิดเผย และเกิด การอภิปรายอย่างมาก ว่า Google แบนซอฟต์แวร์สร้าง deepfake จากสภาพแวดล้อมคลาวด์ Colab ที่ได้รับความนิยมอย่างฉับพลัน แม้ถึงตอนนี้ Colab ดูเหมือนจะตอบสนองเฉพาะความพยายามเรียกใช้ DeepFaceLab หรือ DFL ซึ่งเป็นซอฟต์แวร์ deepfake ที่ได้รับความนิยมที่สุดในโลก และเป็นตัวที่ เกี่ยวข้องกับสื่อลามก AI อย่างใกล้ชิดที่สุด มากกว่าซอฟต์แวร์ที่มีผู้ใช้น้อยกว่าอย่าง FaceSwap ซึ่งมีชื่อเสียงดีกว่า แม้ว่าจะทำงานแบบเดียวกับ DFL ทุกประการ

ในระดับหนึ่ง แนวทางนี้อาจเป็นทางเดียวที่ Colab สามารถใช้ข้อจำกัด ใดๆ ต่อการสร้างสื่อลามก deepfake ได้ เพราะขั้นตอนฝึกโมเดลจริงใช้เพียงซอฟต์แวร์โอเพนซอร์สและภาพใบหน้าที่ครอบอย่างแคบมาก โดยปกติเพียง 512×512 พิกเซลหรือต่ำกว่า ทำให้อัลกอริทึมรู้จำภาพแทบไม่มีโอกาสพบเนื้อหาลามกจริง

เมื่อฝึกโมเดลเสร็จ ผู้สร้างไม่จำเป็นต้องใช้กำลังประมวลผลมหาศาลของ Colab หรือ GPU ราคาแพงในเครื่องอีกต่อไป การ แปลง จริงส่วนใหญ่ ซึ่งหมายถึงการนำใบหน้าไปวางในวิดีโอไม่ว่าจะเป็นสื่อลามกหรือไม่ ทำในเครื่องได้ด้วย GPU แล็ปท็อปกำลังต่ำ หรือแม้แต่ CPU โดยใช้เวลานานขึ้นเล็กน้อย เมื่อถึงขั้นตอนที่มีเนื้อหาลามกจริง Colab ก็ถูกตัดออกจากกระบวนการไปนานแล้ว

ดังนั้นส่วนประกอบที่ส่งต่อกันระหว่างผู้สร้างสื่อลามก deepfake จึงแทบไม่ใช่อะไรเกินกว่าการละเมิดลิขสิทธิ์เล็กน้อยที่อาจเกิดขึ้นในรูปแบบชุดภาพใบหน้า ซึ่งสกัดจากวิดีโอ YouTube, Blu-ray, การสัมภาษณ์ทางโทรทัศน์ สื่อสังคม และแหล่งอื่นๆ

นโยบายเผาทำลายทั้งหมดกำลังจะมาถึงชุมชน deepfake หรือไม่?

คำถามที่รบกวนสมาชิกชุมชน deepfake บน Discord อย่าง DeepFaceLab รวมถึง DeepFaceLive), FaceSwap, Machine Video Editor หรือ MVE ซึ่งเป็น สภาพแวดล้อมสำหรับ DFL ที่ใช้ส่วนติดต่อแบบกราฟิก พร้อมคุณสมบัติเพิ่มเติมมากมาย และเซิร์ฟเวอร์ deepfake เสียงใหม่ๆ อย่าง Audio Deepfakes คือ เจ้าของพอร์ทัลและแพลตฟอร์มจะแบนชุมชน deepfake ทั้งหมดด้วยเหตุผลเชิงหลักการในไม่ช้านี้ แทนที่จะแบกรับค่าใช้จ่ายในการดูแลตลอดเวลาท่ามกลางผู้สนับสนุนและผู้สร้างเนื้อหา NSFW จำนวนมากหรือไม่?

Bryan Lyon หนึ่งในผู้พัฒนา FaceSwap และเจ้าของเซิร์ฟเวอร์ Discord ที่เกี่ยวข้อง ให้ความเห็น^†:

‘เราอยู่บน Discord ต่อมาได้แม้จะมีการกวาดล้างหลายครั้ง ด้วยการรักษาความสะอาดอย่างเคร่งครัด เราไม่มีช่องลับหรือเซิร์ฟเวอร์ลับแห่งที่สองที่มีเนื้อหาผิดกฎ เมื่อสองสามปีก่อนมีการกวาดล้างเซิร์ฟเวอร์ DeepFaceLab ยอดนิยม ทุกคนในนั้นถูกแบน พวกเขามีบทบาทที่รับได้เฉพาะผู้ได้รับเชิญ ซึ่งเปิดทางเข้าสู่ช่องที่มีสื่อลามกโดยไม่ได้รับความยินยอม’

เมื่อ Google ซึ่งเป็นหนึ่งในแหล่งโฮสต์เทคโนโลยีที่ใหญ่ที่สุดในโลก แบนการฝึก deepfake บนเซิร์ฟเวอร์และ GPU ของตนแบบครอบคลุม ก็เป็นไปได้ว่า GitHub ของ Microsoft อาจตัดสินใจว่า การเอื้อให้ใช้เทคโนโลยีเหล่านี้* ไม่คุ้มกับความคลุมเครือทางศีลธรรมหรือการลงทุนกำกับดูแลในที่สุด

ขณะนี้ การทำให้เทคโนโลยี deepfake เป็นที่ยอมรับและเปลี่ยนการใช้จากสื่อลามกทำเองไปสู่การผลิตภาพยนตร์และโทรทัศน์ ตลอดจนการใช้ที่ไม่ละเมิดสิทธิ์และไม่ผิดกฎหมาย ยังอยู่ในระยะแรกเกินกว่าจะสร้างแนวทางนโยบายที่ชัดเจนให้แพลตฟอร์มและผู้ให้บริการโฮสต์ชุมชน

* ภาพเก็บถาวรของ https://github.com/search?q=deepfake จากวันจันทร์ที่ 13 มิถุนายน 2022
† ในข้อความส่วนตัวบน Discord

เผยแพร่ครั้งแรก 13 มิถุนายน 2022 แก้ไขเวลา 15:08 UTC เพื่อปรับภาพ
แก้ไขวันอังคารที่ 14 มิถุนายน 2022 เวลา 06:24 UTC เพื่อเพิ่มคำตอบของผู้ดูแล Reddit เรื่องสถานะ NSFW ของผู้โพสต์บางคน และปรับภาพประกอบ RSS