CivitAI ในวิกฤตผู้ให้บริการชำระเงินใหม่ เนื่องจาก Trump ลงนามในกฎหมายต่อต้าน Deepfake

ประธานาธิบดี Trump ได้ลงนามในกฎหมาย Take It Down Act แล้ว ซึ่งทำให้การสร้างและเผยแพร่ภาพลวงตาทางเพศที่ไม่ได้รับอนุญาตเป็นความผิดทางอาญาในระดับ联邦ในสหรัฐอเมริกา ในเวลาเดียวกัน ชุมชน CivitAI ได้พยายาม “ทำความสะอาด” เนื้อหาที่ไม่เหมาะสมและเนื้อหาที่เกี่ยวข้องกับดารา แต่สุดท้ายก็ไม่สามารถตอบสนองผู้ให้บริการชำระเงินได้ ทำให้เว็บไซต์ต้องหาวิธีแก้ปัญหาหรือเผชิญกับการปิดเว็บไซต์

เป็นช่วงสองสัปดาห์ที่มีความสำคัญอย่างยิ่งสำหรับสถานะของการสร้างภาพลวงตาที่ไม่ได้รับการควบคุม เมื่อสองสัปดาห์ที่แล้ว เว็บไซต์ Mr. Deepfakes ซึ่งเป็นเว็บไซต์ที่มีชื่อเสียงที่สุดในการแบ่งปันเนื้อหาที่เกี่ยวข้องกับดารา ได้ปิดเว็บไซต์หลังจากดำเนินการมาเป็นเวลา 7 ปี โดยมีผู้เข้าชมมากกว่า 5 ล้านคนต่อเดือน

ภาพหลังของเว็บไซต์ Mr. Deepfakes ในเดือนพฤษภาคม; ภาพหน้าของการแจ้งเตือนการระงับ ซึ่งถูกแทนที่ด้วยข้อผิดพลาด 404 ตั้งแต่นั้นมา Source: mrdeepfakes.com

การปิดเว็บไซต์ Mr. Deepfakes ได้รับการยืนยันว่าเนื่องมาจากผู้ให้บริการชำระเงินรายสำคัญหนึ่งถอนตัวออกจากเว็บไซต์ (ดูภาพด้านบน) อย่างไรก็ตาม การสืบสวนของนักข่าวได้ระบุตัวบุคคลสำคัญที่อยู่เบื้องหลัง Mr. Deepfakes ก่อนที่เว็บไซต์จะปิด ทำให้สามารถเป็นไปได้ว่าเว็บไซต์ถูกปิดเนื่องจากเหตุผลส่วนตัวหรือทางกฎหมาย

ในเวลาเดียวกัน CivitAI ซึ่งเป็นแพลตฟอร์มที่ใช้สำหรับการสร้างเนื้อหาที่เกี่ยวข้องกับดาราและเนื้อหาที่ไม่เหมาะสม ได้ใช้มาตรการเซ็นเซอร์ตัวเองที่ไม่ธรรมดาและถูกวิพากษ์วิจารณ์ มาตรการเหล่านี้ส่งผลกระทบต่อการสร้างเนื้อหาที่เกี่ยวข้องกับดารา การจัดเก็บแบบจำลอง และกฎและข้อจำกัดใหม่ ๆ รวมถึงการห้ามเนื้อหาที่ไม่เหมาะสมบางประเภทและอุดมการณ์หัวรุนแรง

มาตรการเหล่านี้ได้รับแรงบันดาลใจจากผู้ให้บริการชำระเงินที่ขู่ว่าจะถอนตัวออกจากเว็บไซต์หากไม่มีการเปลี่ยนแปลงเกี่ยวกับเนื้อหาที่ไม่เหมาะสมและเนื้อหาที่เกี่ยวข้องกับดารา

CivitAI ถูกตัดขาด

ณ วันนี้ ดูเหมือนว่ามาตรการของ CivitAI จะไม่สามารถตอบสนอง VISA และ Mastercard ได้: โพสต์ใหม่ในเว็บไซต์จาก Alasdair Nicoll ผู้จัดการการมีส่วนร่วมของชุมชน เปิดเผยว่าการชำระเงินโดยบัตรเครดิตสำหรับ CivitAI (ซึ่งระบบ “buzz” 仮想เงินส่วนใหญ่ถูกขับเคลื่อนด้วยบัตรเครดิตและบัตรเดบิตจริง) จะถูกหยุดชั่วคราวตั้งแต่วันศุกร์นี้ (23 พฤษภาคม 2025)

สิ่งนี้จะทำให้ผู้ใช้ไม่สามารถต่ออายุสมาชิกภาพรายเดือนหรือซื้อ “buzz” ใหม่ๆ ได้ แม้ว่า Nicoll จะแนะนำให้ผู้ใช้สามารถรักษาสิทธิสมาชิกภาพปัจจุบันโดยการเปลี่ยนเป็นสมาชิกภาพรายปี (ราคา 100-550 ดอลลาร์สหรัฐฯ) ก่อนวันศุกร์ แต่ชัดเจนว่าอนาคตของโดเมนนี้ไม่แน่นอนในขณะนี้ (ควรทราบว่าสมาชิกภาพรายปีได้ถูกเปิดตัวในเวลาเดียวกับที่ประกาศการถอนตัวของผู้ให้บริการชำระเงิน)

เกี่ยวกับการขาดผู้ให้บริการชำระเงิน Nicoll กล่าวว่า ‘เรากำลังพูดคุยกับผู้ให้บริการทุกคนที่สบายใจกับนวัตกรรม AI’

เกี่ยวกับการล้มเหลวของความพยายามล่าสุดในการคิดใหม่เกี่ยวกับนโยบายของเว็บไซต์เกี่ยวกับเนื้อหาที่เกี่ยวข้องกับดาราและเนื้อหาที่ไม่เหมาะสม Nicoll ระบุในโพสต์ว่า:

‘บางบริษัทชำระเงินมองว่าแพลตฟอร์ม AI ที่สร้างเนื้อหาที่ไม่เหมาะสมเป็นความเสี่ยงสูง โดยเฉพาะอย่างยิ่งเมื่อเราทำให้ผู้ใช้สามารถสร้างเนื้อหาที่ไม่เหมาะสมได้ แม้ว่าจะถูกกฎหมายและได้รับการดูแลแล้วก็ตาม การเลือกนโยบายที่ไม่ถูกต้อง ไม่ใช่สิ่งที่ผู้ใช้ทำ แต่ทำให้เกิดการถูกตัดขาด’

คำตอบจากผู้ใช้ ‘Faeia’ ซึ่งได้รับการแต่งตั้งเป็น “หัวหน้าพนักงาน” ในโปรไฟล์ CivitAI ของเธอ* เพิ่มบริบทให้กับการประกาศนี้:

‘เพียงเพื่อชี้แจง เราได้รับการถอดออกจากผู้ให้บริการชำระเงินเพราะเราเลือกที่จะไม่ลบเนื้อหาที่ไม่เหมาะสมและเนื้อหาที่มีเนื้อหาที่ไม่เหมาะสมออกจากแพลตฟอร์ม เรายังคงให้การสนับสนุนผู้สร้างทุกประเภทและกำลังทำงานหาวิธีแก้ปัญหาทางเลือก’

ในฐานะผู้ขับเคลื่อนนวัตกรรมใหม่ๆ ที่ดั้งเดิม NSFW มักถูกใช้เพื่อกระตุ้นความสนใจในโดเมน เทคโนโลยีหรือแพลตฟอร์ม – เพียงเพื่อให้ผู้ใช้แรกๆ ถูกปฏิเสธเมื่อมีเงินทุนหรือผู้ใช้เพียงพอ (เช่น ผู้ใช้เพียงพอสำหรับหน่วยงานในการอยู่รอดเมื่อไม่มีบริบท NSFW)

Fake Out

การลงนามของประธานาธิบดี Donald Trump ในกฎหมาย Take It Down Act น่าจะมีอิทธิพลต่อเหตุการณ์เหล่านี้ กฎหมายใหม่นี้ทำให้การเผยแพร่ภาพลวงตาทางเพศที่ไม่ได้รับอนุญาตเป็นความผิดทางอาญา

กฎหมายกำหนดให้แพลตฟอร์มต้องลบเนื้อหาที่ถูกตีกลับภายใน 48 ชั่วโมง โดยมีการบังคับใช้โดยคณะกรรมาธิการการค้าแห่งสหพันธรัฐ การห้ามทางอาญาของกฎหมายมีผลทันที ทำให้สามารถดำเนินคดีกับบุคคลที่เผยแพร่หรือคุกคามที่จะเผยแพร่ภาพลวงตาทางเพศที่ไม่ได้รับอนุญาต (รวมถึงภาพลวงตาที่สร้างโดย AI) ภายใต้เขตอำนาจศาลของสหรัฐอเมริกา

แม้ว่ากฎหมายได้รับการสนับสนุนจากทั้งสองฝ่ายและได้รับการสนับสนุนจากบริษัทเทคโนโลยีและกลุ่มสนับสนุน แต่นักวิจารณ์โต้แย้งว่าอาจกดขี่เนื้อหาที่ถูกต้องตามกฎหมายและข่มขู่เครื่องมือความเป็นส่วนตัว เช่น การเข้ารหัสลับ เมื่อเดือนที่แล้ว มูลนิธิ Electronic Frontier Foundation (EFF) ได้ประกาศคัดค้านร่างกฎหมาย โดยยืนยันว่ากลไกการถอดออกที่กำหนดไว้ในกฎหมายมุ่งเป้าไปที่เนื้อหาที่กว้างกว่าความหมายของภาพลวงตาทางเพศที่ไม่ได้รับอนุญาตที่พบในกฎหมายอื่น ๆ

การคุ้มครอง AI ที่สร้างโดยดารา

แม้ว่ากฎหมาย Take It Down Act จะครอบคลุมทั่วทั้งประเทศ แต่ก็ไม่ได้ห้ามการสร้างภาพลวงตาทาง AI ที่เกี่ยวข้องกับดาราทั้งหมด กฎหมายกำหนดให้การเผยแพร่ภาพลวงตาทางเพศที่ไม่ได้รับอนุญาต รวมถึงภาพลวงตาที่สร้างโดย AI เมื่อบุคคลที่ถูกนำมาใช้มีความคาดหวังที่สมเหตุสมผลในการรักษาความเป็นส่วนตัว

กฎหมายระบุว่า:

“(2) ความผิดที่เกี่ยวข้องกับการนำเสนอภาพลวงตาทางเพศที่แท้จริง—

“(A) ที่เกี่ยวข้องกับผู้ใหญ่—ยกเว้น [วัตถุประสงค์ในการให้หลักฐาน การรายงาน ฯลฯ] จะถือเป็นความผิดสำหรับบุคคลใดๆ ในการค้าระหว่างรัฐหรือต่างประเทศที่จะใช้บริการคอมพิวเตอร์แบบโต้ตอบเพื่อเผยแพร่ภาพลวงตาทางเพศของบุคคลที่สามารถระบุได้ซึ่งไม่ใช่เด็ก หาก—

“(i) ภาพลวงตาทางเพศถูกสร้างหรือได้รับภายใต้สถานการณ์ที่บุคคลนั้นรู้หรือควรจะรู้ว่าบุคคลที่สามารถระบุได้มีความคาดหวังที่สมเหตุสมผลในการรักษาความเป็นส่วนตัว;

“(ii) สิ่งที่นำเสนอไม่ได้ถูกเปิดเผยโดยสมัครใจโดยบุคคลที่สามารถระบุได้ในสถานที่สาธารณะหรือเชิงพาณิชย์

“(iii) สิ่งที่นำเสนอไม่ใช่เรื่องที่เป็นข้อกังวลของสาธารณะ; และ

“(iv) การเผยแพร่ภาพลวงตาทางเพศ—

“(I) มีเจตนาให้เกิดความเสียหาย; หรือ

“(II) ทำให้เกิดความเสียหาย รวมถึงความเสียหายทางจิตใจ การเงิน หรือชื่อเสียง ต่อบุคคลที่สามารถระบุได้

ข้อกำหนด “ความคาดหวังที่สมเหตุสมผลในการรักษาความเป็นส่วนตัว” ที่ใช้ здесьไม่ได้สนับสนุนสิทธิของดาราเสมอไป ขึ้นอยู่กับกฎหมายที่จะเกิดขึ้นในอนาคต มีความเป็นไปได้ที่เนื้อหาที่สร้างโดย AI ที่เกี่ยวข้องกับดาราในสถานที่สาธารณะหรือเชิงพาณิชย์อาจไม่เข้าข่ายการห้ามของกฎหมาย

สิทธิที่ถูกทอดทิ้ง

มากกว่า 7 ปีของการวิพากษ์วิจารณ์สาธารณะและของสื่อเกี่ยวกับเนื้อหาที่สร้างโดย AI ดูเหมือนจะสิ้นสุดลงในระยะเวลาอันสั้น แต่ในขณะที่กฎหมาย Take It Down Act มีการห้ามในระดับ联邦 กฎหมายอาจไม่ครอบคลุมทุกกรณีที่เกี่ยวข้องกับการสร้างภาพลวงตาทาง AI ทำให้บางสถานการณ์ต้องได้รับการแก้ไขภายใต้กฎหมายของรัฐที่มีการผสมผสานกัน

ตัวอย่างเช่น ในรัฐแคลิฟอร์เนีย กฎหมาย California Celebrities Rights Act จำกัดการใช้เอกลักษณ์ของดาราโดยไม่ได้รับอนุญาตให้กับตัวดาราเองและทายาทของดาราเท่านั้น ในทางกลับกัน กฎหมาย ELVIS Act ของรัฐเทนเนสซี มุ่งเน้นไปที่การปกป้องนักดนตรีจากการสร้างภาพและเสียงที่ไม่ได้รับอนุญาตโดย AI โดยมีการเข้าใกล้ที่มุ่งเน้นไปที่กลุ่มที่มีผลประโยชน์ในระดับรัฐ

ส่วนใหญ่ของรัฐมีกฎหมายที่มุ่งเป้าไปที่การสร้างภาพลวงตาทางเพศ แต่หลายรัฐหยุดเพียงแค่การชี้แจงว่าความคุ้มครองเหล่านี้ครอบคลุมบุคคลส่วนตัวและดาราเท่าใด ในขณะเดียวกัน การสร้างภาพลวงตาทางการเมืองที่รายงานว่าช่วยให้ Donald Trump สนับสนุนกฎหมายใหม่นี้อาจต้องเผชิญกับอุปสรรคด้านรัฐธรรมนูญในบางบริบท

^† เวอร์ชันที่เก็บถาวร: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† เวอร์ชันที่เก็บถาวร (ไม่แสดงราคาเดือน): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* หัวหน้าพนักงานที่แท้จริงของ CEO ที่ CivitAI ถูกแสดงใน LinkedIn ภายใต้ชื่อที่ไม่เกี่ยวข้อง ในขณะที่ ‘Faiona’ ที่มีชื่อเสียงคล้ายกันเป็นผู้ดูแลสแต็ฟอย่างเป็นทางการที่ subreddit ของโดเมน

เผยแพร่ครั้งแรกวันพุธที่ 20 พฤษภาคม 2025