จีนเสนอการควบคุม Deepfakes และระบบสังเคราะห์ AI อื่นๆ ที่เพิ่มขึ้น

สำนักงานไซเบอร์สเปซของจีน (CAC) ได้เสนอชุดข้อกำหนดร่างใหม่เพื่อกำกับระบบสังเคราะห์ที่ได้รับการช่วยเหลือจาก AI รวมถึง Deepfakes สภาพแวดล้อมเสมือนจริง การสร้างข้อความ การสังเคราะห์เสียง และส่วนย่อยอื่นๆ ของสื่อสังเคราะห์ AI – สาขาที่จีนผลิตเอกสารวิจัยและโครงการวิจัยเชิงนวัตกรรมจำนวนมากทุกเดือน

โพสต์ (Google Translation, ต้นฉบับ ที่นี่) ที่เว็บไซต์อย่างเป็นทางการของ CAC ระบุข้อผูกพันตามที่เสนอ และอธิบายบริการที่ได้รับผลกระทบว่าเป็น ‘ผู้ให้บริการสังเคราะห์เชิงลึก’ เชิญชวนให้ประชาชนเข้าร่วมโดยการให้ความคิดเห็นเกี่ยวกับข้อเสนอร่าง โดยมีเส้นตายวันที่ 28 กุมภาพันธ์

ไม่ใช่แค่ Deepfakes

แม้ว่าข้อกำหนดที่แนะนำจะถูกรายงานในแง่ของผลกระทบที่อาจเกิดขึ้นต่อการสร้างและเผยแพร่ Deepfakes แต่เอกสารนี้พยายามที่จะมีมุมมองที่ครอบคลุมเกี่ยวกับความสามารถของอัลกอริทึมในการสร้างเนื้อหาทุกประเภทที่สามารถตีความได้ในความหมายที่เข้าใจกันอย่างกว้างขวางของ ‘สื่อ’

มาตรา 2 ระบุพิสัยของข้อกำหนดที่เสนอข้าม 6 สาขา*:

(1) เทคนิคสำหรับการสร้างหรือแก้ไขเนื้อหาข้อความ เช่น การสร้างบท การแปลงรูปแบบข้อความ และการโต้ตอบคำถามและคำตอบ;

(2) เทคโนโลยีสำหรับการสร้างหรือแก้ไขเนื้อหาสียง เช่น การแปลงข้อความเป็นเสียง การแปลงเสียง และการแก้ไขคุณลักษณะเสียง;

(3) เทคโนโลยีสำหรับการสร้างหรือแก้ไขเนื้อหาที่ไม่ใช่เสียง เช่น การสร้างเพลงและการแก้ไขเสียงฉาก;

(4) การสร้างใบหน้า การแทนที่ใบหน้า การแก้ไขคุณลักษณะตัวละคร การจัดการใบหน้า การจัดการท่าทาง และเทคโนโลยีอื่นๆ สำหรับการสร้างหรือแก้ไขคุณลักษณะชีวภาพ เช่น ใบหน้าในภาพและวิดีโอ;

(5) เทคนิคสำหรับการแก้ไขคุณลักษณะที่ไม่ใช่ชีวภาพในภาพและวิดีโอ เช่น การปรับปรุงภาพและการฟื้นฟูภาพ;

(6) เทคโนโลยีสำหรับการสร้างหรือแก้ไขฉากเสมือน เช่น การสร้าง 3D.

การควบคุม Deepfakes

จีนได้ทำให้การใช้ AI สำหรับการเผยแพร่ข่าวปลอมเป็นอาชญากรรม สิ้นปี 2019 ซึ่งในช่วงเวลานั้น CAC ได้แสดงความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากเทคโนโลยี Deepfakes ซึ่งทำให้หลายคนคิดว่ารัฐบาลจีนจะห้ามเทคโนโลยี Deepfakes โดยตรง

อย่างไรก็ตาม สิ่งนี้จะทำให้จีนละทิ้งการพัฒนาที่สำคัญที่สุดในประวัติศาสตร์การสร้างสื่อ AI และการเมือง และตัดขาดตัวเองจากผลประโยชน์ของการทำงานวิจัยและความร่วมมือทางวิทยาศาสตร์ระดับโลก

ดังนั้น จึงดูเหมือนว่าจีนต้องการทดลองควบคุมเทคโนโลยีที่อาจเป็นอันตรายแทนการห้ามมัน ซึ่งหลายคนเชื่อว่าจะย้ายออกจาก ช่วงเร่งการเติบโตของการทำหนังผู้ใหญ่ และเข้าสู่กรณีการใช้งานที่ถูกต้องและสามารถใช้ได้ โดยเฉพาะอย่างยิ่งในด้านความบันเทิง

NeRF รวมอยู่ด้วย

มาตรา 2.6 กล่าวถึงการสร้างหรือแก้ไขฉากเสมือน เช่น การสร้าง 3D ซึ่งเป็นเทคโนโลยีที่ยังไม่เต็มที่เมื่อเทียบกับการปลอมแปลง Deepfakes และเป็นหนึ่งที่ได้รับความสนใจมากที่สุดในช่วงสองปีที่ผ่านมาผ่านการมาถึงของ Neural Radiance Fields (NeRF) โดยใช้โฟโต้แกรมเมทรีเพื่อสังเคราะห์ฉากทั้งหมดในพื้นที่ 潛伏ของโมเดลการเรียนรู้ของเครื่อง

อย่างไรก็ตาม NeRF กำลังขยายการเข้าถึงออกไปนอกเหนือจากตารางแบบจำลองและการเดินผ่านสภาพแวดล้อม และเข้าสู่การสร้างวิดีโอที่มีร่างกายเต็ม โดยนักวิจัยชาวจีนได้พัฒนา นวัตกรรมสำคัญ ในด้านนี้

ST-NeRF ของจีน ในงาน

แม้ว่า NeRF จะสร้างผลงานวิจัยใหม่มากมายตั้งแต่การประกาศในปี 2020 แต่การนำไปใช้ในระบบ VR หรือ AR หรือความเหมาะสมในการใช้งานในกระบวนการสร้างผลกระทบภาพยังคงมีอุปสรรคและปัญหาทางเทคนิคที่สำคัญ NeRF ที่เพิ่มขึ้นในการสร้างและแก้ไขรูปร่างมนุษย์ที่สมบูรณ์ยังไม่ได้รวมคุณสมบัติแปลงเอกลักษณ์ที่เป็นมาตรฐานซึ่งเป็นลักษณะของข่าวที่โดดเด่นในช่วงสองปีที่ผ่านมา

Audio Deepfakes เป็นลำดับความสำคัญ?

หากเราพิจารณาลำดับของรายการในมาตรา 2 เป็นข้อบ่งชี้ถึงเทคโนโลยีสังเคราะห์เชิงลึกที่จีนกังวลมากที่สุดในการควบคุมและกำกับ นี่จะชี้ให้เห็นว่าข่าวปลอมที่สร้างโดย AI เป็นข้อกังวลหลัก โดยมีการสังเคราะห์เสียงนำหน้าการปลอมแปลงวิดีโอในแง่ของผลกระทบที่อาจเกิดขึ้น

หากเป็นเช่นนั้น สิ่งนี้จะสอดคล้องกับข้อเท็จจริงที่ว่าการปลอมแปลงวิดีโอยังไม่ได้ถูกใช้ในอาชญากรรมใดๆ ที่ไม่เกี่ยวข้องกับภาพยนตร์สำหรับผู้ใหญ่ (เอเชียไม่ ลังเลที่จะทำให้การปลอมแปลงภาพยนตร์สำหรับผู้ใหญ่ผิดกฎหมาย) ในขณะที่การปลอมแปลงเสียงได้ถูกนำเสนอเป็นเทคโนโลยีที่ใช้งานได้จริงในอาชญากรรมทางการเงินอย่างน้อยสองครั้ง ในสหราชอาณาจักร ในปี 2019 และ ในสหรัฐอาหรับเอมิเรตส์ ในปี 2021

ข้อกำหนดร่างใหม่กำหนดให้ผู้ใช้ที่ต้องการใช้เอกลักษณ์ของบุคคลโดยใช้ระบบการเรียนรู้ของเครื่องจักรต้องขออนุญาตเป็นหนังสือจากบุคคลนั้น นอกจากนี้ สื่อที่สังเคราะห์จะต้องแสดงโลโก้หรือเครื่องหมายน้ำ ‘ที่เห็นได้ชัด’ หรือวิธีการอื่นๆ เพื่อให้ผู้บริโภคเข้าใจว่าเนื้อหานั้นถูกเปลี่ยนแปลงหรือสร้างขึ้นใหม่ทั้งหมด ไม่ชัดเจนว่าจะสามารถทำได้อย่างไรในกรณีการปลอมแปลงเสียง

การลงทะเบียน

หากได้รับการอนุมัติ ข้อเสนอร่างจะกำหนดให้ผู้ให้บริการสังเคราะห์เชิงลึกต้องลงทะเบียนแอปพลิเคชันที่เกี่ยวข้องของตนพร้อมกับรัฐ ตามที่มีอยู่ในข้อกำหนดการบริหารการแนะนำอัลกอริทึมสำหรับบริการข้อมูลอินเทอร์เน็ต และปฏิบัติตามขั้นตอนการยื่นฟाइलที่จำเป็นทั้งหมด ผู้ให้บริการสังเคราะห์เชิงลึกจะต้องร่วมมืออย่างเต็มที่ในด้านการกำกับดูแลและการตรวจสอบ และจัดให้มีการสนับสนุนและความช่วยเหลือด้านเทคนิคและข้อมูลที่จำเป็นเมื่อถูกขอ

นอกจากนี้ ผู้ให้บริการดังกล่าวจะต้องสร้างพอร์ทัลสำหรับการร้องเรียนที่เป็นมิตรต่อผู้ใช้ และตีพิมพ์ขีดจำกัดเวลาในการดำเนินการร้องเรียนที่คาดหวัง，以及ต้องให้บริการ ‘กลไกการหักล้างข้อมูลที่ไม่ถูกต้อง’ – แม้ว่าข้อเสนอจะไม่ได้ให้รายละเอียดเกี่ยวกับการดำเนินการนี้

การละเมิดอาจทำให้เกิดค่าปรับระหว่าง 10,000 ถึง 100,000 หยวน (1,600 ถึง 16,000 ดอลลาร์) เช่นเดียวกับการทำให้บริษัทที่กระทำผิดต้องเผชิญกับการฟ้องร้องทางแพ่งและอาญา

* การแปลโดย Google Translate ดูลิงก์ที่อยู่ต้นข้อความในบทความ

เผยแพร่ครั้งแรกเมื่อวันที่ 28 มกราคม 2022