CivitAI ปรับเปลี่ยนกฎเกณฑ์ Deepfake ภายใต้แรงกดดันจาก Mastercard และ Visa

CivitAI ซึ่งเป็นคลังโมเดล AI ที่ได้รับความนิยมมากที่สุดบนอินเทอร์เน็ต ได้ทำการเปลี่ยนแปลงนโยบายเกี่ยวกับเนื้อหาที่ไม่เหมาะสม (NSFW) และข้อกำหนดในการใช้บริการ (TOS) เกี่ยวกับ LoRAs ซึ่งเป็นหนึ่งในสตรีมเนื้อหาที่ได้รับความนิยมมากที่สุดของเว็บไซต์

คลิกเพื่อเล่นวิดีโอแม้ว่า Civit จะไม่ได้ให้ข้อมูลที่แน่นอน (และป้ายกำกับ/จัดประเภทที่ไม่ถูกต้องไม่ใช่เรื่องผิดปกติ ซึ่งอาจทำให้ตัวเลขผิดเพี้ยน) แต่จำนวนโมเดล AI ของคนดัง ซึ่งส่วนใหญ่เป็น LoRAs คือหลายร้อยหรือหลายพัน และมีคนดังหญิงเป็นส่วนใหญ่

การดำเนินการของ CivitAI ดูเหมือนจะอยู่ภายใต้แรงกดดันในระหว่างการถ่ายทอดสดบน Twitch ซึ่ง Community Engagement Manager ของบริษัท Alasdair Nicoll ได้กล่าวว่าการเปลี่ยนแปลงเหล่านี้ถูกบังคับให้เว็บไซต์ทำโดยผู้ประมวลผลการชำระเงิน เนื่องจากความกังวลเกี่ยวกับเนื้อหาที่ไม่เหมาะสมและภาพลักษณ์ของบุคคลจริง

‘การเปลี่ยนแปลงเหล่านี้ไม่ใช่สิ่งที่เราต้องการทำ แต่นี่คือสิ่งที่เกิดขึ้นจากกฎหมายใหม่และกฎหมายที่กำลังจะเกิดขึ้น มีกฎหมายเกี่ยวกับ deepfake และกฎหมายเกี่ยวกับ AI ที่เกี่ยวข้องกับเนื้อหาที่ไม่เหมาะสม ผู้ประมวลผลการชำระเงินและ Visa และ MasterCard ก็กลัวที่จะถูกฟ้องร้อง และพวกเขากำลังขับเคลื่อนการเปลี่ยนแปลงเหล่านี้’

คุ้มครองโดยอัตโนมัติ?

ในช่วงสองสามปีที่ผ่านมา บริษัท Metaphysic ได้พยายามสร้างระบบที่ช่วยให้บุคคลสามารถจดทะเบียนลักษณะของตนเองได้ แต่ดูเหมือนว่าระบบนี้อาจไม่จำเป็นเนื่องจากการเปลี่ยนแปลงที่ CivitAI ต้องทำ

การเปลี่ยนแปลงที่กำลังจะเกิดขึ้น

รายงานในปี 2023 โดย 404 Media ได้เน้นย้ำถึงปัญหาของโมเดล AI ของคนดังและเนื้อหาที่ไม่เหมาะสมบน CivitAI แต่ผู้ก่อตั้ง Justin Maier ได้กล่าวว่าการเปลี่ยนแปลงเหล่านี้ไม่ได้เกิดจากความกังวลเกี่ยวกับเนื้อหาที่ไม่เหมาะสม แต่เกิดจากความกังวลเกี่ยวกับการใช้ AI ในการสร้างเนื้อหาที่ไม่เหมาะสม

ไปที่ไหนต่อไป?

ก่อนการประกาศนี้ CivitAI ได้เริ่มลบการอัปโหลดที่ครอบคลุมบางหมวดหมู่และประเภทของเนื้อหาที่ถูกแบน ในขณะเดียวกัน ก็มีการสร้าง ‘คลังฉุกเฉิน’ สำหรับ LoRAs ของ Wan 2.1 ที่ Hugging Face

เมตาดาต้าที่บังคับ

การเปลี่ยนแปลงที่น่าสนใจที่สุดคือการบังคับให้ใช้เมตาดาต้าสำหรับภาพและวิดีโอทั้งหมดบนเว็บไซต์ ซึ่งจะช่วยให้ผู้ใช้สามารถดูว่าภาพหรือวิดีโอนั้นถูกสร้างขึ้นโดยใช้โมเดล AI หรือไม่

กฎใหม่

การเปลี่ยนแปลงที่สำคัญที่สุดคือการบังคับให้ใช้เมตาดาต้า และการลบเนื้อหาที่ไม่เหมาะสมออกจากเว็บไซต์ นอกจากนี้ยังมีการเปลี่ยนแปลงอื่นๆ เช่น การปิดใช้งานการบริจาคสำหรับเนื้อหาที่ไม่เหมาะสม และการเพิ่มระบบการคัดกรองใหม่

• เนื้อหาที่มีแท็กด้วยชื่อคนจริงหรือถูกป้ายกำกับว่าเป็นทรัพยากรของคนจริงจะถูกซ่อนจากฟีดสาธารณะ
• เนื้อหาที่มีธีมเด็ก/เยาวชนจะถูกกรองออกจากฟีด
• เนื้อหาที่มีเรต X หรือ XXX ที่ไม่มีเมตาดาต้าจะถูกซ่อนจากมุมมองสาธารณะและจะมีเครื่องหมายเตือนให้ผู้อัปโหลดเพิ่มเมตาดาต้าที่หายไป
• ภาพที่สร้างโดยใช้ฟังก์ชัน Bring Your Own Image (BYOI) จะต้องมีการเปลี่ยนแปลงรูปภาพอย่างน้อย 50% ในระหว่างการสร้าง
• การค้นหาด้วยชื่อคนดังจะไม่แสดงผลลัพธ์เมื่อมีการเปิดใช้งานเนื้อหาที่ไม่เหมาะสม
• การโฆษณาจะไม่แสดงบนเนื้อหาที่มีลักษณะเหมือนคนจริง
• การบริจาค (Buzz) จะถูกปิดใช้งานสำหรับเนื้อหาที่มีลักษณะเหมือนคนจริง
• โมเดลที่ออกแบบมาเพื่อสร้างคนจริงจะไม่มีสิทธิ์เข้าร่วมในฟังก์ชัน Early Access
• ได้เพิ่มคำชี้แจงการปฏิบัติตามมาตรฐาน 2257 เพื่อชี้แจงว่าแพลตฟอร์มไม่อนุญาตให้มีเนื้อหาที่ไม่ใช่ AI
• ได้เพิ่มหน้าการร้องขอการลบเนื้อหาที่ไม่เหมาะสม
• ได้แนะนำระบบการคัดกรองใหม่ผ่านการร่วมมือกับ Clavata