Anderson का एंगल

चीन ने डीपफेक और अन्य एआई संश्लेषण प्रणालियों का नियमन बढ़ाने का प्रस्ताव दिया

Martin Anderson
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुचीन के मसौदा नियम छह एआई संश्लेषण क्षेत्रों को लक्षित करते हैं जिनमें पाठ, आवाज और 3डी…
और देखें
  • चीन के मसौदा नियम छह एआई संश्लेषण क्षेत्रों को लक्षित करते हैं जिनमें पाठ, आवाज और 3डी पुनर्निर्माण शामिल हैं।
  • प्रदाताओं को सभी संश्लेषित मीडिया पर वॉटरमार्क लगाना होगा और पहचान के उपयोग के लिए लिखित अनुमति प्राप्त करनी होगी।
  • गहन संश्लेषण सेवाओं को पंजीकृत करने में विफल रहने वाले उल्लंघनकर्ताओं पर 100,000 युआन तक का जुर्माना लगाया जा सकता है।

चीन के साइबरस्पेस एडमिनिस्ट्रेशन (CAC) ने एआई-एडेड सिंथेसिस सिस्टम, जिसमें डीपफेक्स, वर्चुअल रियलिटी सीन्स, टेक्स्ट जेनरेशन, ऑडियो और एआई मीडिया सिंथेसिस के अन्य उप-क्षेत्र शामिल हैं, को नियंत्रित करने के लिए नए मसौदा नियमों के एक समूह का प्रस्ताव दिया है – एक क्षेत्र जिसमें चीन प्रति माह एक बड़ी संख्या में शोध पत्र और नवाचार परियोजनाएं उत्पन्न करता है।

एक पोस्ट (गूगल अनुवाद, मूल यहाँ) सीएसी की आधिकारिक साइट पर प्रस्तावित दायित्वों को निर्धारित करता है, और प्रभावित सेवाओं को ‘गहरे सिंथेसिस सेवा प्रदाता’ के रूप में वर्णित करता है, नागरिकों को प्रस्तावित मसौदे पर टिप्पणी देने के लिए आमंत्रित करता है, 28 फरवरी तक की समय सीमा के साथ।

केवल डीपफेक्स नहीं

हालांकि प्रस्तावित नियमों को उनके डीपफेक्स के निर्माण और प्रसार पर संभावित प्रभाव के संदर्भ में रिपोर्ट किया गया है, दस्तावेज़ किसी भी प्रकार की सामग्री को उत्पन्न करने की एल्गोरिदम की क्षमता पर एक व्यापक दृष्टिकोण प्रदान करने का प्रयास करता है जिसे व्यापक रूप से ‘मीडिया’ के अर्थ में समझा जा सकता है।

अनुच्छेद 2 छह क्षेत्रों में नियमों के प्रस्तावित दायरे की घोषणा करता है*:

(1) पाठ सामग्री को उत्पन्न या संपादित करने के लिए तकनीक, जैसे कि अध्याय उत्पादन, पाठ शैली रूपांतरण, और प्रश्न-उत्तर संवाद;

(2) आवाज सामग्री को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी, जैसे कि पाठ-से-वाणी, वाणी रूपांतरण, और वाणी विशेषता संपादन;

(3) गैर-वाणी सामग्री को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी, जैसे कि संगीत उत्पादन और दृश्य ध्वनि संपादन;

(4) चेहरा उत्पादन, चेहरा प्रतिस्थापन, पात्र विशेषता संपादन, चेहरा हेरफेर, इशारा हेरफेर, और अन्य प्रौद्योगिकियां जो चित्र और वीडियो सामग्री में बायोमेट्रिक विशेषताओं जैसे चेहरों को उत्पन्न या संपादित करने के लिए;

(5) चित्र और वीडियो सामग्री में गैर-जैविक विशेषताओं को संपादित करने के लिए तकनीक, जैसे कि चित्र उन्नयन और चित्र पुनर्स्थापना;

(6) आभासी दृश्य जैसे 3डी पुनर्निर्माण को उत्पन्न या संपादित करने के लिए प्रौद्योगिकी।

डीपफेक्स नियमन

चीन ने 2019 के अंत में नकली समाचार फैलाने के लिए एआई के उपयोग को अपराध बना दिया , जिस समय सीएसी ने डीपफेक्स प्रौद्योगिकी के संभावित परिणामों के बारे में चिंता व्यक्त की, जिससे कई लोगों को लगता है कि चीनी सरकार अंततः डीपफेक्स प्रौद्योगिकी पर प्रतिबंध लगा देगी।

हालांकि, यह चीन को आधिकारिक तौर पर मीडिया निर्माण, एआई, और यहां तक कि राजनीति के इतिहास में सबसे राजनीतिक और सांस्कृतिक रूप से महत्वपूर्ण विकासों में से एक को छोड़ने का मतलब होगा, और खुद को वैश्विक और खुले वैज्ञानिक सहयोग के लाभों से वंचित कर देगा।

इसलिए, ऐसा लगता है कि चीन अब प्रतिबंधित करने के बजाय डीपफेक्स प्रौद्योगिकी को नियंत्रित करने के साथ प्रयोग करने के लिए निर्धारित है, जिसे कई लोग मानते हैं कि अंततः इसके पोर्नोग्राफ़ी से प्रोत्साहित तकनीकी विकास के चरण से बाहर निकल जाएगा और मनोरंजन में विशेष रूप से उपयोग के मामलों में एक वैध और व्यावहारिक रूप से उपयोग किए जा सकने वाले समूह में प्रवेश करेगा।

NeRF शामिल

अनुच्छेद 2.6 आभासी दृश्यों के उत्पादन या संपादन को संबोधित करता है, जैसे कि 3डी पुनर्निर्माण, डीपफेक के माध्यम से किसी की पहचान की नकल करने की तुलना में अधिक नई तकनीक और जिसने पिछले दो वर्षों में न्यूरल रेडियंस फील्ड्स (NeRF) के आगमन के माध्यम से सबसे अधिक प्रमुखता प्राप्त की है, जहां फोटोग्रामेट्री का उपयोग मशीन लर्निंग मॉडल के अन्वेषणीय लेटेंट स्पेस में पूरे दृश्यों को सिंथेसाइज करने के लिए किया जाता है।

हालांकि, NeRF पूर्ण-शरीर वीडियो के उत्पादन में मॉडलों के स्थिर चित्रों और परिवेश के आभासी भ्रमण से बाहर निकल रहा है, चीनी शोधकर्ताओं ने इस संबंध में कुछ बड़े नवाचार किए हैं।

ST-NeRF

चीन का ST-NeRF कार्रवाई में।

हालांकि NeRF ने 2020 में इसकी घोषणा के बाद से नए शोध की एक तूफान ला दी है, इसका वीआर या एआर सिस्टम में कार्यान्वयन, या इसकी दृश्य प्रभाव पाइपलाइनों में इसकी उपयुक्तता अभी भी कई उल्लेखनीय चुनौतियों और तकनीकी अवरोधों को पार करना है। NeRF की बढ़ती क्षमता पूर्ण मानव शारीरिक विशेषताओं को पुनर्स्थापित और संपादित करने के लिए अभी तक किसी भी मानक पहचान-परिवर्तन डीपफेक्स क्षमताओं को शामिल नहीं किया गया है जो पिछले दो वर्षों में समाचार शीर्षकों की विशेषता है।

ऑडियो डीपफेक्स प्राथमिकता?

यदि हम अनुच्छेद 2 की सूची क्रम को उन गहरे सिंथेसिस प्रौद्योगिकियों के संकेतक के रूप में लेते हैं जिन्हें चीन नियंत्रित और विनियमित करने के लिए सबसे अधिक चिंतित है, तो यह सुझाव देगा कि पाठ-आधारित एआई-उत्पन्न नकली समाचार प्राथमिक चिंता का विषय है, आवाज संश्लेषण वीडियो डीपफेक्स की तुलना में इसके संभावित प्रभाव के संदर्भ में आगे है।

यदि ऐसा है, तो यह इस तथ्य के अनुरूप है कि डीपफेक्स वीडियो का उपयोग अभी तक किसी भी अपराध में नहीं किया गया है जो अश्लीलता से संबंधित नहीं है (एशिया ने डीपफेक पोर्न को अपराध घोषित करने में संकोच नहीं किया है), जबकि यह अनुमान लगाया गया है कि कम से कम दो बड़े वित्तीय अपराधों में डीपफेक ऑडियो तकनीक का इस्तेमाल हुआ है, 2019 में यूके में, और संयुक्त अरब अमीरात में 2021 में।

नए मसौदा नियम उपयोगकर्ताओं को मशीन लर्निंग सिस्टम का उपयोग करके किसी व्यक्ति की पहचान का उपयोग करने के लिए उस व्यक्ति से लिखित अनुमति मांगने के लिए बाध्य करते हैं। इसके अलावा, संश्लेषित मीडिया को कुछ प्रकार के ‘प्रमुख’ लोगो या वॉटरमार्क, या अन्य साधनों को प्रदर्शित करना होगा जिससे सामग्री का उपभोक्ता यह समझ सके कि सामग्री बदली हुई है या पूरी तरह से काल्पनिक है। यह पूरी तरह से स्पष्ट नहीं है कि यह ऑडियो डीपफेक्स के मामले में कैसे किया जा सकता है।

पंजीकरण

यदि अनुमोदित किया जाता है, तो मसौदा प्रस्ताव डीप सिंथेसिस सेवा प्रदाताओं को अपने प्रासंगिक अनुप्रयोगों को राज्य के साथ पंजीकृत करने के लिए बाध्य करेंगे, जो मौजूदा इंटरनेट सूचना सेवाओं के लिए एल्गोरिदम सिफारिशों के प्रशासन के प्रावधानों के अनुसार है, और सभी आवश्यक फाइलिंग प्रक्रियाओं का पालन करें। गहरे सिंथेसिस प्रदाता को निरीक्षण और पर्यवेक्षण के संदर्भ में स्वतंत्र रूप से सहयोग करने की आवश्यकता होगी, और अनुरोध पर ‘आवश्यक तकनीकी और डेटा समर्थन और सहायता’ प्रदान करेगा।

इसके अलावा, ऐसे प्रदाताओं को शिकायत के लिए उपयोगकर्ता-मित्र पोर्टल स्थापित करने की आवश्यकता होगी, और शिकायतों के निपटान पर अपेक्षित समय सीमा प्रकाशित करेंगे, साथ ही ‘अफवाह-विरोधी तंत्र’ प्रदान करने की आवश्यकता होगी – हालांकि प्रस्ताव इस बात का विवरण नहीं देते हैं कि इसका कार्यान्वयन कैसे किया जाएगा।

उल्लंघन 10,000 और 100,000 युआन ($1,600 और $16,000) के बीच जुर्माना लगा सकता है, साथ ही अपराधी कंपनियों को नागरिक और आपराधिक मुकदमों के लिए उजागर कर सकता है।

 

* अनुवाद द्वारा गूगल अनुवाद, लिंक देखें लेख के शुरू में।

पहली बार 28 जनवरी 2022 को प्रकाशित।

Martin Anderson

मशीन लर्निंग पर लेखक, मानव छवि संश्लेषण में डोमेन विशेषज्ञ। Metaphysic.ai में शोध सामग्री के पूर्व प्रमुख, जब तक यह DNEG की Brahma.ai में विलीन नहीं हो गया।
वेबसाइट: martinanderson.ai
संपर्क: martin@martinanderson.ai