चीन प्रोपोज़ करता है डीपफेक्स और अन्य एआई सिंथेसिस सिस्टम के नियमन में वृद्धि

चीन के साइबरस्पेस एडमिनिस्ट्रेशन (CAC) ने एआई-एडेड सिंथेसिस सिस्टम, जिसमें डीपफेक्स, वर्चुअल रियलिटी सीन्स, टेक्स्ट जेनरेशन, ऑडियो और एआई मीडिया सिंथेसिस के अन्य उप-क्षेत्र शामिल हैं, को नियंत्रित करने के लिए एक नए ड्राफ्ट नियमों का प्रस्ताव दिया है – एक क्षेत्र जिसमें चीन प्रति माह एक बड़ी संख्या में शोध पत्र और नवाचार परियोजनाएं उत्पन्न करता है।

एक पोस्ट (गूगल अनुवाद, मूल यहाँ) सीएसी की आधिकारिक साइट पर प्रस्तावित दायित्वों को निर्धारित करता है, और प्रभावित सेवाओं को ‘गहरे सिंथेसिस सेवा प्रदाता’ के रूप में वर्णित करता है, नागरिकों को प्रस्तावित मसौदे पर टिप्पणी देने के लिए आमंत्रित करता है, 28 फरवरी तक की समय सीमा के साथ।

केवल डीपफेक्स नहीं

हालांकि सuggested नियमों को उनके डीपफेक्स के निर्माण और प्रसार पर संभावित प्रभाव के संदर्भ में रिपोर्ट किया गया है, दस्तावेज़ किसी भी प्रकार की सामग्री को उत्पन्न करने की एल्गोरिदम की क्षमता पर एक व्यापक दृष्टिकोण प्रदान करने का प्रयास करता है जिसे व्यापक रूप से ‘मीडिया’ के अर्थ में समझा जा सकता है।

अनुच्छेद 2 छह क्षेत्रों में नियमों के प्रस्तावित दायरे की घोषणा करता है*:

(1) पाठ सामग्री को उत्पन्न या संपादित करने के लिए तकनीक, जैसे कि अध्याय उत्पादन, पाठ शैली रूपांतरण, और प्रश्न-उत्तर संवाद;

(2) आवाज सामग्री को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी, जैसे कि पाठ-से-वाणी, वाणी रूपांतरण, और वाणी विशेषता संपादन;

(3) गैर-वाणी सामग्री को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी, जैसे कि संगीत उत्पादन और दृश्य ध्वनि संपादन;

(4) चेहरा उत्पादन, चेहरा प्रतिस्थापन, पात्र विशेषता संपादन, चेहरा हेरफेर, इशारा हेरफेर, और अन्य प्रौद्योगिकियां जो चित्र और वीडियो सामग्री में जैविक विशेषताओं जैसे चेहरों को उत्पन्न या संपादित करने के लिए;

(5) चित्र और वीडियो सामग्री में गैर-जैविक विशेषताओं को संपादित करने के लिए तकनीक, जैसे कि चित्र उन्नयन और चित्र पुनर्स्थापना;

(6) आभासी दृश्य जैसे 3डी पुनर्निर्माण को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी।

डीपफेक्स नियमन

चीन ने 2019 के अंत में नकली समाचार फैलाने के लिए एआई के उपयोग को अपराध बना दिया , जिस समय सीएसी ने डीपफेक्स प्रौद्योगिकी के संभावित परिणामों के बारे में चिंता व्यक्त की, जिससे कई लोगों को लगता है कि चीनी सरकार अंततः डीपफेक्स प्रौद्योगिकी पर प्रतिबंध लगा देगी।

हालांकि, यह चीन को आधिकारिक तौर पर मीडिया पीढ़ी, एआई, और यहां तक कि राजनीति के इतिहास में सबसे राजनीतिक और सांस्कृतिक रूप से महत्वपूर्ण विकासों में से एक को छोड़ने का मतलब होगा, और खुद को वैश्विक और खुले वैज्ञानिक सहयोग के लाभों से वंचित कर देगा।

इसलिए, ऐसा लगता है कि चीन अब प्रतिबंधित करने के बजाय डीपफेक्स प्रौद्योगिकी को नियंत्रित करने के साथ प्रयोग करने के लिए निर्धारित है, जिसे कई लोग मानते हैं कि अंततः इसके पोर्न एक्सेलरेटर चरण से बाहर निकल जाएगा और मनोरंजन में विशेष रूप से उपयोग के मामलों में एक वैध और शोषण योग्य सेट में प्रवेश करेगा।

नेअरएफ़ शामिल

अनुच्छेद 2.6 आभासी दृश्यों के उत्पादन या संपादन को संबोधित करता है, जैसे कि 3डी पुनर्निर्माण, एक अधिक नवजात प्रौद्योगिकी है जो डीपफेक्स व्यक्तित्व की तुलना में और जिसने पिछले दो वर्षों में न्यूरल रेडियंस फील्ड्स (नेअरएफ़) के आगमन के माध्यम से सबसे अधिक प्रमुखता प्राप्त की है, जहां फोटोग्रामेट्री का उपयोग मशीन लर्निंग मॉडल के अन्वेषणीय लेटेंट स्पेस में पूरे दृश्यों को सिंथेसाइज करने के लिए किया जाता है।

हालांकि, नेअरएफ़ पूर्ण-शरीर वीडियो के उत्पादन में टेबलॉक्स ऑफ मॉडल और पर्यावरण के वॉक-थ्रू से बाहर निकल रहा है, चीनी शोधकर्ताओं ने इस संबंध में कुछ बड़े नवाचार किए हैं।

चीन का एसटी-नेअरएफ़ कार्रवाई में।

हालांकि नेअरएफ़ ने 2020 में इसकी घोषणा के बाद से नए शोध की एक तूफान ला दी है, इसका वीआर या एआर सिस्टम में कार्यान्वयन, या इसकी दृश्य प्रभाव पाइपलाइनों में इसकी उपयुक्तता अभी भी कई उल्लेखनीय चुनौतियों और तकनीकी बोतलेंक्स को पार करना है। नेअरएफ़ की बढ़ती क्षमता पूर्ण मानव शारीरिक विशेषताओं को पुनर्स्थापित और संपादित करने के लिए अभी तक किसी भी मानक पहचान-परिवर्तन डीपफेक्स क्षमताओं को शामिल नहीं किया गया है जो पिछले दो वर्षों में समाचार शीर्षकों की विशेषता है।

ऑडियो डीपफेक्स प्राथमिकता?

यदि हम अनुच्छेद 2 की सूची क्रम को उन गहरे सिंथेसिस प्रौद्योगिकियों के संकेतक के रूप में लेते हैं जिन्हें चीन नियंत्रित और नियंत्रित करने के लिए सबसे अधिक चिंतित है, तो यह सुझाव देगा कि पाठ-आधारित एआई-उत्पन्न नकली समाचार प्राथमिक चिंता का विषय है, आवाज संश्लेषण वीडियो डीपफेक्स की तुलना में इसके संभावित प्रभाव के संदर्भ में आगे है।

यदि ऐसा है, तो यह इस तथ्य के अनुरूप है कि डीपफेक्स वीडियो का उपयोग अभी तक किसी भी अपराध में नहीं किया गया है जो अश्लीलता से संबंधित नहीं है (एशिया ने डीपफेक्स पोर्न पर संकोच नहीं किया है), जबकि डीपफेक्स ऑडियो को कम से कम दो बड़े वित्तीय अपराधों में एक सक्रिय प्रौद्योगिकी के रूप में रखा गया है, 2019 में यूके में, और संयुक्त अरब अमीरात में 2021 में।

नए मसौदा नियम उपयोगकर्ताओं को मशीन लर्निंग सिस्टम का उपयोग करके किसी व्यक्ति की पहचान का शोषण करने के लिए लिखित अनुमति मांगने के लिए बाध्य करते हैं। इसके अलावा, संश्लेषित मीडिया को कुछ प्रकार के ‘प्रमुख’ लोगो या वॉटरमार्क, या अन्य साधनों को प्रदर्शित करना होगा जिससे सामग्री का उपभोक्ता यह समझ सके कि सामग्री बदली हुई है या पूरी तरह से काल्पनिक है। यह पूरी तरह से स्पष्ट नहीं है कि यह ऑडियो डीपफेक्स के मामले में कैसे किया जा सकता है।

पंजीकरण

यदि अनुमोदित किया जाता है, तो मसौदा प्रस्ताव डीप सिंथेसिस सेवा प्रदाताओं को अपने प्रासंगिक अनुप्रयोगों को राज्य के साथ पंजीकृत करने के लिए बाध्य करेंगे, जो मौजूदा इंटरनेट सूचना सेवाओं के लिए एल्गोरिदम सिफारिशों के प्रशासन के प्रावधानों के अनुसार है, और सभी आवश्यक फाइलिंग प्रक्रियाओं का पालन करें। गहरे सिंथेसिस प्रदाता को निरीक्षण और पर्यवेक्षण के संदर्भ में स्वतंत्र रूप से सहयोग करने की आवश्यकता होगी, और अनुरोध पर ‘आवश्यक तकनीकी और डेटा समर्थन और सहायता’ प्रदान करेगा।

इसके अलावा, ऐसे प्रदाताओं को शिकायत के लिए उपयोगकर्ता-मित्र पोर्टल स्थापित करने की आवश्यकता होगी, और शिकायतों के निपटान पर अपेक्षित समय सीमा प्रकाशित करेंगे, साथ ही ‘अफवाह-विरोधी तंत्र’ प्रदान करने की आवश्यकता होगी – हालांकि प्रस्ताव इस बात का विवरण नहीं देते हैं कि इसका कार्यान्वयन कैसे किया जाएगा।

उल्लंघन 10,000 और 100,000 युआन ($1,600 और $16,000) के बीच जुर्माना लगा सकता है, साथ ही अपराधी कंपनियों को नागरिक और आपराधिक मुकदमों के लिए उजागर कर सकता है।

* अनुवाद द्वारा गूगल अनुवाद, लिंक देखें लेख के शुरू में।

पहली बार 28 जनवरी 2022 को प्रकाशित।