CivitAI ปรับเปลี่ยนกฎเกณฑ์ Deepfake ภายใต้แรงกดดันจาก Mastercard และ Visa

CivitAI ซึ่งอาจเป็นคลังโมเดล AI ที่ได้รับความนิยมมากที่สุดบนอินเทอร์เน็ต ยอมรับแรงกดดันจากผู้ให้บริการชำระเงิน MasterCard และ Visa และปรับนโยบายเกี่ยวกับเนื้อหา NSFW อย่างมาก โดยเฉพาะข้อกำหนดการใช้งานเกี่ยวกับ LoRA ของคนดัง ซึ่งเป็นหนึ่งในหมวดเนื้อหาที่ผู้ใช้อัปโหลดและได้รับความนิยมมากที่สุด โมเดลเสริมที่ดาวน์โหลดได้ฟรีเหล่านี้ทำให้ผู้ใช้สร้างภาพและวิดีโอ AI ของบุคคลที่มีชื่อเสียงได้

แม้ Civit จะไม่เปิดเผยตัวเลขที่แน่นอน และการติดป้ายหรือจัดหมวดหมู่ผิดก็เกิดขึ้นได้บ่อยจนทำให้ตัวเลขคลาดเคลื่อน แต่จำนวนโมเดล AI ของคนดัง ซึ่งส่วนใหญ่เป็น LoRA นั้นมีหลายร้อยหรืออาจหลายพันรายการ และส่วนใหญ่เป็นบุคคลหญิง

ระหว่างการถ่ายทอดสดทาง Twitch ในนามบริษัท Alasdair Nicoll ผู้จัดการฝ่ายการมีส่วนร่วมของชุมชน ซึ่งเป็นผู้สร้างโมเดลแบบปลอดภัยสำหรับที่ทำงานบน Civit ด้วย ยอมรับว่าการเปลี่ยนแปลงเหล่านี้เกิดจากแรงกดดันของผู้ประมวลผลการชำระเงินที่กังวลเรื่องเนื้อหาสำหรับผู้ใหญ่และการสร้างภาพบุคคลจริง เขายังกล่าวว่า Visa และ MasterCard ซึ่งเป็นแรงผลักดันหลักเบื้องหลังผู้ประมวลผลเหล่านี้ อาจเรียกร้องให้เปลี่ยนแปลงมากขึ้นในอนาคต

“นี่ไม่ใช่การเปลี่ยนแปลงที่เราต้องการ สาเหตุหลักคือกฎหมายใหม่และกฎหมายที่กำลังจะมีผล มีกฎหมายดีปเฟกและกฎหมายสื่อลามก AI ผู้ประมวลผลการชำระเงิน รวมถึง Visa และ MasterCard ต่างกังวลว่าจะถูกฟ้องร้อง และท้ายที่สุดพวกเขาเป็นผู้ผลักดันการเปลี่ยนแปลงเหล่านี้”

“ทางเลือกอื่นที่เราได้รับคือเอาเนื้อหาไม่เหมาะสำหรับที่ทำงานออกทั้งหมด ย้ายเนื้อหาระดับ X และ XXX ออกจาก CivitAI ไปยังแพลตฟอร์มใหม่ แล้วจำกัดการเข้าถึงตามภูมิภาค เพราะมากกว่าครึ่งหนึ่งของรัฐในสหรัฐฯ รวมถึงหลายประเทศในเอเชียและสหราชอาณาจักร กำหนดให้มีการจำกัดเนื้อหาลามกตามพื้นที่”

“ทางเลือกที่สามคือใช้คริปโตทั้งหมด รับชำระด้วยคริปโตเท่านั้น ดังนั้นจึงไม่มีตัวเลือกใดที่ดีเลย”

ในช่วงหลายวันที่ผ่านมา เว็บไซต์ Civit ปิดให้บริการเป็นระยะเพื่อดำเนินการแก้ไขเหล่านี้ แม้ก่อนหน้านี้เว็บไซต์จะห้ามใช้ธีม NSFW ในภาพที่สร้างจาก LoRA หรือโมเดลของคนดังอยู่แล้ว แต่ตอนนี้ผู้ใช้ไม่สามารถเปิดส่วนโมเดลแล้วเห็นตัวอย่าง LoRA ของคนดังปะปนกับโมเดล NSFW ทั่วไปจำนวนมากที่ออกแบบมาสำหรับเนื้อหาผู้ใหญ่ได้อีกต่อไป

ประกาศอย่างเป็นทางการระบุว่า เนื้อหาที่ติดแท็กชื่อบุคคลจริง เช่น “Tom Cruise” หรือถูกระบุว่าเป็นทรัพยากร POI ซึ่งหมายถึงบุคคลจริง จะถูกซ่อนจากฟีด

ในการถ่ายทอดสด Nicoll เปิดเผยรายละเอียดเพิ่มเติมของมาตรการคุ้มครองคนดังและบุคคลจริง Civit เปิดโอกาสให้บุคคลจริงขอถอดโมเดล AI ที่แสดงภาพตนออกมาโดยตลอด แต่ตอนนี้เขากล่าวถึงระบบที่สามารถป้องกันไม่ให้ภาพดังกล่าวถูกอัปโหลดซ้ำหลังจากถูกปฏิเสธครั้งแรก และสามารถระบุตัวบุคคลที่ได้รับการคุ้มครองได้แม้ในภาพที่ระบบไม่เคยเห็นมาก่อน

เพื่อจุดประสงค์นี้ เว็บไซต์กำลังร่วมมือกับระบบตรวจสอบเนื้อหา Clavata AI แม้ยังไม่ชัดเจนว่า Clavata จะเป็นผู้ขับเคลื่อนความสามารถใหม่เหล่านี้มากน้อยเพียงใด

Nicoll ยกตัวอย่างว่า Tom Hanks ได้ยื่นขอสิทธิ์ในรูปลักษณ์ของตนเองแล้ว เช่นเดียวกับนักแสดงภาพยนตร์ผู้ใหญ่จำนวนมาก และนักแสดงระดับแนวหน้าหลายคน เขายังกล่าวว่าหนึ่งในคำขอแรกมาจากกองมรดกของ Barbara Eden

คุ้มครองโดยค่าเริ่มต้นหรือไม่?

ในช่วงไม่กี่ปีที่ผ่านมา บริษัทวิชวลเอฟเฟกต์ AI ชื่อ Metaphysic พยายามสร้างระบบกรรมสิทธิ์ที่ให้ทุกคนลงทะเบียนรูปลักษณ์ของตนเองได้ ระบบมุ่งเน้นไปที่คนดังในฮอลลีวูดที่กังวลว่าตัวตนจะถูกนำไปใช้โดย AI และได้รับการสนับสนุนจากนักแสดงอย่าง Anne Hathaway, Octavia Spencer และ Tom Hanks ซึ่งบริษัทเคยร่วมงานด้วยในภาพยนตร์ Here ปี 2024 ของ Robert Zemeckis

ประโยชน์ของระบบดังกล่าวย่อมขึ้นอยู่กับแนวคำพิพากษาในอนาคต จากมาตรการที่ Civit ถูกบังคับให้ใช้ บริการแบบสมัครสมาชิกที่ Metaphysic เสนออาจไม่จำเป็นอีกต่อไป เมื่อกฎหมายดีปเฟกขยายตัวอย่างรวดเร็วและกฎหมายทั่วไปอาจให้ความคุ้มครองฟรี ปัจจุบันยังไม่ทราบว่าบริการ Metaphysic Pro จะถูกโอนไปยังบริษัทวิชวลเอฟเฟกต์ Double Negative ซึ่งซื้อทรัพย์สินของ Metaphysic ไปเมื่อปีที่แล้วหรือไม่

ไม่ว่าอย่างไร กฎหมายทั่วโลกและแรงกดดันของตลาดทั่วไปดูมีแนวโน้มจะให้ความคุ้มครองและแนวทางเยียวยามากกว่าวิธีแก้เชิงพาณิชย์ประเภทนี้

ค่อย ๆ เพิ่มความเข้มงวด

รายงานของ 404 Media ในปี 2023 ชี้ให้เห็นว่า Civit มีโมเดล AI ของคนดังและโมเดลลามกจำนวนมาก แม้ Justin Maier ผู้ก่อตั้งเว็บไซต์จะลดความสำคัญของความเชื่อมโยงระหว่างรูปลักษณ์คนดังที่ผู้ใช้นำมาเผยแพร่กับการใช้สร้างสื่อลามก

Civit สร้างรายได้จากการให้ผู้ใช้ใช้งาน LoRA และโมเดลที่สมาชิกอัปโหลดบนเว็บไซต์ แต่ Nicoll ยืนยันว่าฟังก์ชันสร้างภาพบนเว็บไซต์ไม่ใช่เหตุผลหลักที่ Visa และ MasterCard เรียกร้องให้เปลี่ยนนโยบายเพื่อให้แพลตฟอร์มหารายได้ต่อได้ เพียงการโฮสต์โมเดลและเนื้อหาเหล่านี้ก็เพียงพอที่จะดึงดูดการตรวจสอบแล้ว

ตลอดหลายปีที่ผ่านมา ผู้ใช้ในชุมชนต่างประหลาดใจที่ Civit ยังสามารถโฮสต์โมเดลรูปลักษณ์คนดังได้ เมื่อเห็นว่าการปราบปรามอาจเกิดขึ้นอย่างหลีกเลี่ยงไม่ได้ จึงมีข้อเสนอและโครงการหลายอย่างเพื่อเก็บรักษา LoRA ที่ Civit หรือผู้อัปโหลดลบออก รวมถึงชุมชน r/CivitaiArchives ซึ่งก่อนหน้านี้ไม่ได้รับความสนใจมากนัก

หลายคนเสนอให้ใช้ระบบทอร์เรนต์ แต่ยังไม่มีเว็บไซต์หลักที่ได้รับการติดตามอย่างกว้างขวาง แนวทางนี้มีแนวโน้มผลักกิจกรรมที่ถูกห้ามไปยังขอบนอกของอินเทอร์เน็ต พื้นที่ปิด และอาจไปถึงดาร์กเว็บ เพราะแพลตฟอร์มที่รองรับโมเดลรูปลักษณ์ต้องห้าม เช่น Reddit และ Discord ต่างก็ห้ามเนื้อหาเหล่านี้อยู่แล้วหรือมีแนวโน้มจะห้ามในไม่ช้า

ขณะนี้ยังเห็น LoRA คนดังบางรายการบน Civit ได้ภายใต้ข้อจำกัด แต่เนื้อหาที่สร้างจากโมเดลส่วนใหญ่ถูกถอดออกจากรายการและจะไม่ปรากฏในการค้นพบทั่วไป ผู้แสดงความคิดเห็นคนหนึ่งระหว่างการถ่ายทอดสดคาดว่าข้อจำกัดจะเข้มงวดขึ้นจนถึงขั้นห้ามโมเดลหรือภาพของบุคคลจริงทั้งหมด

Nicoll เห็นด้วยว่าผู้ประมวลผลจะไม่หยุดเพียงเท่านี้และจะเรียกร้องมากขึ้นเรื่อย ๆ เขากล่าวว่าความหวังเดียวคือ Civit จะเติบโตและมีอำนาจมากพอที่จะมีส่วนร่วมในการกำหนดข้อบังคับที่บังคับใช้กับตน

เขายังกล่าวว่าผู้ใช้คงไม่ซื้อ Bitcoin เพื่อใช้เครื่องสร้างภาพของ CivitAI บริษัทจึงพยายามทำข้อจำกัดให้อยู่ในรูปที่ยอมรับได้ที่สุด ต่อสู้คัดค้านเท่าที่ทำได้ แต่ท้ายที่สุดได้รับคำสั่งว่าต้องทำ มิฉะนั้นแพลตฟอร์มอาจสิ้นสุดลง

Nicoll กล่าวว่าสถาบันการเงินไม่เข้าใจว่าชุมชนใช้เทคโนโลยีอย่างไร แม้บริษัทจะพยายามอธิบายแล้ว และ Civit แทบเป็นหนึ่งในพื้นที่สุดท้ายสำหรับเนื้อหา NSFW

Civit ติดต่อผู้ประมวลผลการชำระเงินแทบทุกแห่ง รวมถึงผู้ให้บริการความเสี่ยงสูงที่เว็บไซต์ลามกใช้ แต่ทุกแห่งระมัดระวังเนื้อหา AI อย่างมาก เขากล่าวว่าหาก Civit เป็นเว็บไซต์ลามกแบบดั้งเดิมอาจไม่มีปัญหา สิ่งที่ผู้ให้บริการกลัวคือเนื้อหา AI

อนาคตจะไปทางไหน?

ก่อนประกาศนี้ Civit ถูกพบว่ากำลังลบเนื้อหาบางหมวดที่ตอนนี้ถูกห้ามแล้ว ขณะเขียนบทความ มีการสร้างคลังฉุกเฉินสำหรับ LoRA ของ Wan 2.1 บน Hugging Face บางรายการช่วยสร้างกิจกรรมทางเพศทั่วไปที่โมเดลวิดีโอรุ่นใหม่เรียนรู้น้อยหรือไม่มีเลย แต่หลายรายการอยู่ในหมวด “ถอดเสื้อผ้า” ที่ถูกห้ามอย่างเด็ดขาด และบางโมเดลอาจถือว่ารุนแรงหรือสร้างความไม่พอใจอย่างชัดเจน

ชุมชน r/datahoarders ซึ่งมีบทบาทสำคัญในการเก็บรักษาเอกสารออนไลน์ของรัฐบาลสหรัฐฯ ระหว่างการลบข้อมูลจำนวนมากในยุค Donald Trump จนถึงตอนนี้ไม่เห็นด้วยกับแนวคิดการเก็บเนื้อหา CivitAI ที่สูญหาย

วงการวิชาการรับรู้มานานแล้วว่า CivitAI ทำให้การสร้างสื่อ NSFW ด้วย AI เป็นเรื่องง่าย อย่างไรก็ตาม งานวิจัยที่ได้รับการอ้างถึงมากชิ้นหนึ่งในปี 2024 ชื่อ Exploring the Use of Abusive Generative AI Models on Civitai มีข้อจำกัด เพราะ Civit ไม่อนุญาตให้เผยแพร่ภาพคนดังหรือการสร้างภาพผิดกฎหมายบนเว็บไซต์ และนักวิจัยพยายามหาหลักฐานจากภายใน Civit เอง

สิ่งที่ผู้ประมวลผลการชำระเงินกังวลจึงไม่ใช่เฉพาะสิ่งที่สร้างหรือเผยแพร่บน Civit แต่คือสิ่งที่ผู้คนนำโมเดลเหล่านี้ไปทำในชุมชนอื่นที่ปิดหรือมีการกำกับดูแลน้อยกว่า

เว็บไซต์ Mr. Deepfakes เคยเป็นศูนย์กลางของวิธีดีปเฟก NSFW แบบออโตเอนโคเดอร์ ก่อน Stable Diffusion และโมเดลแบบ diffusion จะแพร่หลายในปี 2022 ล่าสุดเริ่มเผยแพร่วิดีโอลามกคนดังที่สร้างด้วยเครื่องมือข้อความเป็นวิดีโอและภาพเป็นวิดีโอรุ่นใหม่ รวมถึง Hunyuan Video และ Wan 2.1 ทั้งสองเป็นโมเดลใหม่ที่ชุมชนเพิ่งเริ่มเติบโตและมีแนวโน้มสร้างข่าวร้อนแรงในปีนี้

เมตาดาต้าที่บังคับใช้

ตามคำกล่าวของ Nicoll การเปลี่ยนแปลงที่น่าสนใจอย่างหนึ่งที่ผู้ประมวลผลการชำระเงินเรียกร้องคือ ภาพทั้งหมดบนเว็บไซต์ต้องมีเมตาดาต้า เมื่อสร้างภาพหรือวิดีโอด้วยโมเดลกำเนิดในเวิร์กโฟลว์ทั่วไป เช่น ComfyUI ไฟล์ผลลัพธ์มักมีข้อมูลชื่อและแฮชของโมเดล รวมถึงการตั้งค่าอื่น ๆ แฮชช่วยยืนยันที่มาแม้ผู้ใช้จะเปลี่ยนชื่อโมเดล

ข้อมูลที่ซ่อนอยู่นี้ทำให้ผู้ใช้นำวิดีโอหรือภาพของผู้อื่นลากเข้าสู่เวิร์กโฟลว์ ComfyUI ของตนเพื่อสร้างกระบวนการทั้งหมดซ้ำ และตรวจสอบส่วนประกอบที่ขาด เช่น โมเดลหรือองค์ประกอบที่ผู้สร้างต้นฉบับมีและผู้ใช้ต้องไปค้นหาและดาวน์โหลด

Civit ประกาศว่าจะลบภาพหรือวิดีโอที่ไม่มีข้อมูลดังกล่าวภายใน 30 วัน ผู้ใช้สามารถเพิ่มเมตาดาต้าด้วยตนเองโดยพิมพ์ลงในเว็บไซต์ Civit

หากจุดประสงค์ของเมตาดาต้าคือการใช้เป็นหลักฐาน ข้อกำหนดนี้ดูไม่ค่อยมีประโยชน์ เพราะสามารถคัดลอกเมตาดาต้าจากไฟล์หนึ่งไปอีกไฟล์ได้ง่าย และการอนุญาตให้สร้างข้อมูลผ่านแบบฟอร์มเว็บไซต์ก็ทำให้กฎใหม่น่าสับสนยิ่งขึ้น

ผู้ใช้หลายรายมีภาพบน Civit หลายพันภาพ ทางเลือกที่เหลือคือใส่คำอธิบายให้แต่ละภาพด้วยตนเอง หรือลบและอัปโหลดไฟล์ใหม่ที่มีเมตาดาต้า ซึ่งจะทำให้ยอดถูกใจ Buzz และบทสนทนาของภาพเดิมหายไป

กฎใหม่

การเปลี่ยนแปลงที่มีผลกับ Civit มีดังนี้:

• เนื้อหาที่ติดชื่อบุคคลจริงหรือถูกระบุว่าเป็นทรัพยากรบุคคลจริงจะไม่ปรากฏในฟีดสาธารณะ
• เนื้อหาที่มีธีมเด็กหรือผู้เยาว์จะถูกกรองออกจากฟีด
• เนื้อหาระดับ X และ XXX ที่ไม่มีเมตาดาต้าการสร้างจะถูกซ่อนจากสาธารณะและแสดงคำเตือนให้ผู้อัปโหลดเพิ่มข้อมูล เนื้อหาไม่ถูกลบ แต่มีเพียงผู้สร้างที่มองเห็นจนกว่าจะอัปเดต
• ภาพที่ใช้ Bring Your Own Image ต้องปรับเปลี่ยนด้วย noise อย่างน้อย 50% ระหว่างการสร้าง เพื่อลดโอกาสสร้างสำเนาที่แทบเหมือนต้นฉบับ ภาพที่สร้างทั้งหมดบน CivitAI หรือรีมิกซ์จากเนื้อหาของ CivitAI ไม่อยู่ภายใต้ข้อกำหนดนี้และใช้ระดับ denoise ตั้งแต่ 0.0 ถึง 1.0 ได้
• เมื่อเปิดดูเนื้อหาระดับ X หรือ XXX การค้นหาชื่อคนดังจะไม่แสดงผลลัพธ์ และยังห้ามจับคู่ชื่อคนดังกับเนื้อหาผู้ใหญ่
• โฆษณาจะไม่ปรากฏบนภาพหรือทรัพยากรที่ออกแบบให้เลียนแบบบุคคลจริง
• การให้ทิปด้วย Buzz จะถูกปิดสำหรับภาพหรือทรัพยากรที่แสดงบุคคลจริง
• โมเดลที่เลียนแบบบุคคลจริงจะไม่มีสิทธิ์ใช้ Early Access ซึ่งเปิดให้ผู้สร้างเผยแพร่แก่ผู้สนับสนุนที่จ่ายเงินก่อน จึงจำกัดการหารายได้จากรูปลักษณ์คนดังหรือบุคคลจริง
• มีการเพิ่มคำชี้แจงการปฏิบัติตามมาตรา 2257 เพื่อยืนยันว่าแพลตฟอร์มไม่อนุญาตเนื้อหาที่ไม่ได้สร้างด้วย AI และวัตถุโจ่งแจ้งทั้งหมดเป็นสื่อสังเคราะห์ ไม่ใช่ภาพหรือวิดีโอจริง
• หน้าคำขอลบเนื้อหาใหม่เปิดให้ทุกคนรายงานเนื้อหาที่ละเมิดหรือผิดกฎหมายโดยไม่ต้องเข้าสู่ระบบ ผู้ใช้ที่ลงทะเบียนควรใช้เครื่องมือรายงานในแต่ละโพสต์ต่อไป หน้านี้แยกจากแบบฟอร์มขอลบรูปลักษณ์ของตน
• CivitAI เพิ่มระบบตรวจสอบใหม่ผ่านความร่วมมือกับ Clavata ซึ่งเครื่องมือวิเคราะห์ภาพทำงานได้ดีกว่า Amazon Rekognition และ Hive ในการทดสอบของบริษัท

ณ วันอังคารที่ 20 พฤษภาคม 2025 เวลา 11:23:47 การถ่ายทอดสด Twitch ถูกนำออกแล้ว ผู้เขียนเก็บสำเนาไว้เพื่อยืนยันข้อเท็จจริงที่รายงานจากการถ่ายทอดสด

แม้บทความจะกล่าวถึง “กองมรดก” ของ Barbara Eden แต่นักแสดงจาก I Dream of Jeannie ยังมีชีวิตอยู่และมีอายุ 93 ปีในขณะนั้น

สำเนาเก็บถาวร: https://archive.ph/tsMb0

แหล่งข้อมูลและลิงก์อ้างอิง

บทความ รายงาน บริการ และแหล่งข้อมูลทางเทคนิคที่กล่าวถึง:

• LoRAs
• video depictions
• Twitch live-stream
• creator
• official announcement
• a proprietary system
• such as
• subscription-based service
• acquired Metaphysic's assets
• brought attention
• downplayed
• established
• at the forefront
• mass-deletion campaign
• shown contempt
• paper
• synonymous
• autoencoder-based method
• able to drag
• 2257 Compliance Statement
• Content Removal Request page

เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 24 เมษายน 2025 และแก้ไขวันที่ในวันเดียวกัน เวลา 14:32:28 น. ปรับปรุงวันอังคารที่ 20 พฤษภาคม 2025 เพื่อระบุว่าการถ่ายทอดสด Twitch ที่ใช้เป็นแหล่งข้อมูลถูกนำออกแล้ว