จีนเสนอการควบคุมที่เพิ่มขึ้นของ Deepfakes และระบบสังเคราะห์ AI อื่นๆ

สำนักงานบริหารอินเทอร์เน็ตของจีน (CAC) ได้เสนอชุดข้อบังคับฉบับใหม่เพื่อกำกับระบบสังเคราะห์ที่ได้รับการช่วยเหลือจาก AI รวมถึง Deepfakes, สцีนความเป็นจริงเสมือน, การสร้างข้อความ, เสียง และสาขาย่อยอื่นๆ ของสื่อสังเคราะห์ AI – สาขาที่จีนผลิตเอกสารวิจัยและโครงการวิจัยเชิงนวัตกรรมจำนวนมากทุกเดือน

โพสต์ (Google Translation, ต้นฉบับ ที่นี่) ในเว็บไซต์อย่างเป็นทางการของ CAC ระบุถึงภาระผูกพันที่เสนอ และอธิบายบริการที่ได้รับผลกระทบว่าเป็น ‘ผู้ให้บริการสังเคราะห์เชิงลึก’ เชิญชวนให้ประชาชนเข้าร่วมโดยการให้ความคิดเห็นเกี่ยวกับข้อเสนอฉบับดราฟต์ โดยมีเส้นตายวันที่ 28 กุมภาพันธ์

ไม่ใช่แค่ Deepfakes

แม้ว่าข้อบังคับที่แนะนำจะถูกรายงานในแง่ของผลกระทบที่อาจเกิดขึ้นต่อการสร้างและการเผยแพร่ Deepfakes แต่เอกสารนี้พยายามครอบคลุมทุกด้านเกี่ยวกับความสามารถของอัลกอริทึมในการสร้างเนื้อหาที่สามารถตีความได้ในความหมายที่เข้าใจกันอย่างกว้างขวางของ ‘สื่อ’

มาตรา 2 ระบุถึงขอบเขตที่คาดการณ์ไว้ของข้อบังคับใน 6 สาขา*:

(1) เทคนิคสำหรับการสร้างหรือแก้ไขเนื้อหาข้อความ เช่น การสร้างบทความ การแปลงรูปแบบข้อความ และการสร้างสนทนา;

(2) เทคโนโลยีสำหรับการสร้างหรือแก้ไขเนื้อหาสำเนียง เช่น การแปลงข้อความเป็นเสียง การแปลงเสียง และการแก้ไขคุณลักษณะเสียง;

(3) เทคโนโลยีสำหรับการสร้างหรือแก้ไขเนื้อหาที่ไม่ใช่เสียง เช่น การสร้างดนตรีและการแก้ไขเสียง;

(4) การสร้างใบหน้า การแทนที่ใบหน้า การแก้ไขคุณลักษณะตัวละคร การจัดการใบหน้า การจัดการท่าทาง และเทคโนโลยีอื่นๆ สำหรับการสร้างหรือแก้ไขคุณลักษณะทางชีวภาพ เช่น ใบหน้าในภาพและวิดีโอ;

(5) เทคนิคสำหรับการแก้ไขคุณลักษณะที่ไม่ใช่ชีวภาพในภาพและวิดีโอ เช่น การปรับปรุงภาพและการฟื้นฟูภาพ;

(6) เทคโนโลยีสำหรับการสร้างหรือแก้ไขสцีนเสมือน เช่น การสร้าง 3D;

การควบคุม Deepfake

จีนได้ทำให้การใช้ AI สำหรับการเผยแพร่ข่าวปลอมเป็นความผิดทางอาญา ที่สิ้นปี 2019 ซึ่ง CAC ได้แสดงความกังวลเกี่ยวกับผลกระทบที่อาจเกิดขึ้นจากเทคโนโลยี Deepfake ซึ่งทำให้หลายคนคิดว่ารัฐบาลจีนจะห้ามเทคโนโลยี Deepfake โดยตรง

อย่างไรก็ตาม สิ่งนี้จะทำให้จีนละทิ้งการพัฒนาที่สำคัญที่สุดในประวัติศาสตร์ของการสร้างสื่อ AI และการเมือง และตัดขาดจากผลประโยชน์ของการทำงานวิจัยทางวิทยาศาสตร์ที่เปิดกว้างระดับโลก

ดังนั้น จึงดูเหมือนว่าจีนต้องการทดลองควบคุมเทคโนโลยีที่อาจเป็นอันตรายแทนการห้าม โดยที่หลายคนเชื่อว่าจะย้ายออกจาก ระยะเร่งด่วนของการสร้างเนื้อหาที่ไม่เหมาะสม และเข้าสู่กรณีการใช้งานที่ถูกต้องและสามารถใช้ได้ โดยเฉพาะในด้านความบันเทิง

NeRF รวมอยู่ด้วย

มาตรา 2.6 กล่าวถึงการสร้างหรือแก้ไขสцีนเสมือน เช่น การสร้าง 3D ซึ่งเป็นเทคโนโลยีที่น้อยกว่า Deepfake และเป็นเทคโนโลยีที่ได้รับความสนใจมากที่สุดในช่วงสองปีที่ผ่านมาผ่านการมาถึงของ Neural Radiance Fields (NeRF) โดยใช้ photogrammetry เพื่อสังเคราะห์สцีนโดยสมบูรณ์ในพื้นที่ 潜伏 ของโมเดลการเรียนรู้ของเครื่อง

อย่างไรก็ตาม NeRF กำลังขยายการเข้าถึงออกไปจากตารางของโมเดลและการเดินผ่านสภาพแวดล้อมไปยังการสร้างวิดีโอที่มีร่างกายเต็ม โดยนักวิจัยชาวจีนได้พัฒนาการสร้าง นวัตกรรมสำคัญ ในด้านนี้

ST-NeRF ของจีน กำลังทำงาน

แม้ว่า NeRF จะสร้างการวิจัยใหม่มากมายตั้งแต่การประกาศในปี 2020 แต่การนำไปใช้ในระบบ VR หรือ AR หรือความเหมาะสมในการใช้งานในกระบวนการสร้างผลกระทบทางภาพยังคงมีความท้าทายและอุปสรรคทางเทคนิคมากมาย NeRF ที่เพิ่มขึ้นในการสร้างและแก้ไขร่างกายมนุษย์ที่สมบูรณ์ยังคงไม่ได้รวมคุณสมบัติในการแปลงสภาพที่เป็นมาตรฐานของ Deepfake ที่มีลักษณะเฉพาะในข่าวในช่วงสองปีที่ผ่านมา

การสร้างเสียง Deepfake เป็นลำดับความสำคัญ?

หากเราพิจารณาลำดับรายการของมาตรา 2 เป็นตัวบ่งชี้ถึงเทคโนโลยีสังเคราะห์เชิงลึกที่จีนกังวลมากที่สุดในการควบคุมและกำกับดูแล สิ่งนี้จะชี้ให้เห็นว่าการสร้างข่าวปลอมโดยใช้ AI เป็นเรื่องหลัก โดยมีการสังเคราะห์เสียงนำหน้าการสร้างวิดีโอ Deepfake ในแง่ของผลกระทบที่อาจเกิดขึ้น

หากเป็นเช่นนั้น สิ่งนี้จะสอดคล้องกับข้อเท็จจริงที่ว่าวิดีโอ Deepfake ยังไม่ถูกใช้ในอาชญากรรมใดๆ ที่ไม่เกี่ยวข้องกับเนื้อหาที่ไม่เหมาะสม (เอเชียไม่ ลังเลที่จะทำให้การสร้างเนื้อหาที่ไม่เหมาะสมเป็นอาชญากรรม) ในขณะที่การสร้างเสียง Deepfake ถูกนำเสนอเป็นเทคโนโลยีที่ใช้งานอยู่ในอาชญากรรมทางการเงินอย่างน้อยสองครั้ง ในสหราชอาณาจักร ในปี 2019 และ ในสหรัฐอาหรับเอมิเรตส์ ในปี 2021

ข้อบังคับฉบับดราฟต์ใหม่กำหนดให้ผู้ใช้ที่ต้องการใช้เอกลักษณ์ของบุคคลโดยใช้ระบบการเรียนรู้ของเครื่องจักรต้องขออนุญาตเป็นหนังสือจากบุคคลนั้น นอกจากนี้ สื่อที่สังเคราะห์จะต้องแสดงโลโก้หรือเครื่องหมายน้ำที่เด่นชัด หรือวิธีการอื่นๆ เพื่อให้ผู้บริโภคสามารถเข้าใจได้ว่าเนื้อหานั้นถูกเปลี่ยนแปลงหรือสร้างขึ้นโดยสมบูรณ์ ไม่ชัดเจนว่าจะสามารถทำได้อย่างไรในกรณีของการสร้างเสียง Deepfake

การลงทะเบียน

หากได้รับการอนุมัติ ข้อเสนอฉบับดราฟต์จะกำหนดให้ผู้ให้บริการสังเคราะห์เชิงลึกต้องลงทะเบียนแอปพลิเคชันที่เกี่ยวข้องของตนพร้อมกับรัฐ ตามที่มีอยู่ในข้อบังคับเกี่ยวกับการบริหารคำแนะนำอัลกอริทึมสำหรับบริการข้อมูลอินเทอร์เน็ต และปฏิบัติตามขั้นตอนการยื่นฟ้องที่จำเป็นทั้งหมด ผู้ให้บริการสังเคราะห์เชิงลึกจะต้องร่วมมืออย่างเสรีในด้านการกำกับดูแลและการตรวจสอบ และให้การสนับสนุนและความช่วยเหลือด้านเทคนิคและข้อมูลที่จำเป็นตามคำขอ

นอกจากนี้ ผู้ให้บริการเหล่านี้จะต้องสร้างพอร์ทัลสำหรับการร้องเรียนที่เป็นมิตรกับผู้ใช้ และตีพิมพ์ขีดจำกัดเวลาในการดำเนินการร้องเรียนตามที่คาดหวัง ตลอดจนกำหนดให้ให้บริการ ‘กลไกการหักล้างข้อมูลเท็จ’ – แม้ว่าข้อเสนอจะไม่ได้ให้รายละเอียดเกี่ยวกับการดำเนินการนี้

การละเมิดอาจทำให้เกิดการปรับระหว่าง 10,000 ถึง 100,000 หยวน (1,600 ถึง 16,000 ดอลลาร์) และทำให้บริษัทที่กระทำผิดต้องเผชิญกับการดำเนินคดีทางแพ่งและอาญา

* การแปลโดย Google Translate ดู ลิงก์ ในบทความ

เผยแพร่ครั้งแรกเมื่อวันที่ 28 มกราคม 2022