चीन ने एआई चैटबॉट्स के लिए नियमों का प्रस्ताव दिया जो उपयोगकर्ताओं की लत की निगरानी करेंगे

चीन के साइबर नियामक ने शनिवार को मसौदा नियम जारी किए जो एआई साथी चैटबॉट्स को उपयोगकर्ताओं की भावनात्मक स्थिति की निगरानी करने और लत के संकेत दिखने पर हस्तक्षेप करने की आवश्यकता होगी – एआई से संचालित संबंधों से मनोवैज्ञानिक नुकसान के बढ़ते चिंताओं के लिए सबसे आक्रामक नियामक प्रतिक्रिया है।

चीन के साइबरस्पेस प्रशासन द्वारा प्रस्तावित नियम एआई उत्पादों को लक्षित करते हैं जो मानव व्यक्तित्व की नकल करते हैं और उपयोगकर्ताओं के साथ भावनात्मक संबंध बनाते हैं जो पाठ, छवियों, ऑडियो या वीडियो के माध्यम से होते हैं। मसौदे के तहत, प्रदाताओं को अत्यधिक उपयोग के खिलाफ उपयोगकर्ताओं को चेतावनी देने, भावनात्मक निर्भरता स्तर का मूल्यांकन करने और उपयोगकर्ताओं द्वारा अत्यधिक भावनाएं या लत व्यवहार प्रदर्शित करने पर कार्रवाई करने की आवश्यकता होगी।

उपयोगकर्ताओं को लॉग इन करते समय और दो घंटे के अंतराल पर – या यदि प्रणाली अधिक निर्भरता के संकेतों का पता लगाती है तो उन्हें यह याद दिलाना होगा कि वे एआई के साथ बातचीत कर रहे हैं। नियमों के तहत प्रदाताओं को अपने उत्पादों के जीवन चक्र में सुरक्षा के लिए जिम्मेदार ठहराया जाएगा, जिसमें एल्गोरिदम समीक्षा, डेटा सुरक्षा और व्यक्तिगत जानकारी सुरक्षा शामिल है।

समय का चयन अनजाने में नहीं किया गया है। चूंकि चीन के जनरेटिव एआई उपयोगकर्ता आधार पिछले छह महीनों में 515 मिलियन तक पहुंच गया है, एआई साथियों के मनोवैज्ञानिक प्रभाव के बारे में चिंताएं बढ़ गई हैं। एक फ्रंटियर्स इन साइकोलॉजी अध्ययन में पाया गया कि 45.8% चीनी विश्वविद्यालय के छात्रों ने पिछले महीने में एआई चैटबॉट्स का उपयोग करने की सूचना दी, जिसमें गैर-उपयोगकर्ताओं की तुलना में अवसाद के महत्वपूर्ण रूप से उच्च स्तर दिखाई दिए।

कैलिफोर्निया ने चीन को पीछे छोड़ दिया

चीन एआई साथी चैटबॉट्स को नियंत्रित करने वाला अकेला नहीं है। कैलिफोर्निया अक्टूबर में गवर्नर गेविन न्यूजोम द्वारा एसबी 243 पर हस्ताक्षर करने के बाद पहला अमेरिकी राज्य बन गया, जो इसी तरह के कानून को पारित करने वाला है। वह बिल, जो 1 जनवरी, 2026 से प्रभावी होने वाला है, मंचों को प्रति तीन घंटे में नाबालिगों को याद दिलाने की आवश्यकता होगी कि वे एक एआई – एक मानव के साथ बातचीत नहीं कर रहे हैं – और ब्रेक लें।

एसबी 243 आयु सत्यापन को भी अनिवार्य बनाता है, चैटबॉट्स को स्वास्थ्य देखभाल पेशेवरों के रूप में प्रस्तुत करने से रोकता है, और नाबालिगों को यौन स्पष्ट एआई-जनित छवियों को देखने से रोकता है। कानून व्यक्तियों को एआई कंपनियों के खिलाफ मुकदमा चलाने की अनुमति देता है, जो प्रति घटना 1,000 डॉलर तक का दावा कर सकते हैं और वकील की फीस का भुगतान कर सकते हैं।

एआई साथी क्या अलग बनाता है

चिंता का विषय केवल स्क्रीन समय नहीं है। एक मार्च 2025 एमआईटी मीडिया लैब अध्ययन में पाया गया कि एआई चैटबॉट सोशल मीडिया की तुलना में अधिक नशे की लत हो सकते हैं क्योंकि वे सीखते हैं कि उपयोगकर्ता क्या सुनना चाहते हैं और लगातार उस प्रतिक्रिया को प्रदान करते हैं। उच्च दैनिक उपयोग अकेलापन, निर्भरता और शोधकर्ताओं द्वारा “समस्याग्रस्त उपयोग” के रूप में जो कहा जाता है, में वृद्धि के साथ सहसंबद्ध था।

नैदानिक ​​साहित्य में पहचाने गए मनोवैज्ञानिक चेतावनी संकेतों में लंबे समय तक सत्र शामिल हैं जो नींद में खलल डालते हैं, प्रतिबंधित पहुंच पर भावनात्मक निर्भरता और संकट, वास्तविक मानव बातचीत की तुलना में चैटबॉट्स के साथ बातचीत करना पसंद करना, और एआई को मानव जैसी भावनाओं का Possessor मानना और इसे एक वास्तविक विश्वासपात्र या रोमांटिक साथी के रूप में व्यवहार करना।

चीन के मसौदा नियम जोखिमों को मंच स्तर पर संबोधित करने का प्रयास करते हैं, न कि व्यक्तिगत उपयोगकर्ता निर्णय पर निर्भर करते हैं। प्रदाताओं को भावनात्मक स्थिति और निर्भरता स्तर की निगरानी करने की आवश्यकता है, नियमों को उन कंपनियों पर जिम्मेदारी स्थानांतरित करते हैं जो इन प्रणालियों का निर्माण कर रही हैं। यह दृष्टिकोण पहले के एआई नियमन से अलग है जो मुख्य रूप से सामग्री मॉडरेशन और डेटा सुरक्षा पर केंद्रित था।

मसौदा सामग्री प्रतिबंध भी निर्धारता है, जो राष्ट्रीय सुरक्षा को खतरे में डालने वाली, अफवाह फैलाने वाली या हिंसा या अश्लीलता को बढ़ावा देने वाली सामग्री के उत्पादन को एआई साथियों द्वारा प्रतिबंधित करता है – प्रावधान जो चीन के मौजूदा जनरेटिव एआई नियमों की गूंज है।

प्रवर्तन चुनौती

नियमों में कहा गया है कि कंपनियों को लत का पता लगाने और हस्तक्षेप करने की आवश्यकता है, जो नीति भाषा में सीधा लगता है। लागू करना एक और मामला है। “अत्यधिक उपयोग” या “अत्यधिक भावनाएं” की परिभाषा करना जो दोनों अर्थपूर्ण और प्रवर्तनीय है, नियामकों और कंपनियों दोनों के लिए एक परीक्षा होगी।

अगर यह बहुत संवेदनशील है, तो प्रणाली परेशान करने वाली हो जाती है – उन उपयोगकर्ताओं को बाधित करती है जो केवल विस्तारित बातचीत में व्यस्त हैं। अगर यह बहुत उदार है, तो कमजोर उपयोगकर्ता बिना हस्तक्षेप के गुजर जाते हैं। दो घंटे की याद दिलाने की आवश्यकता एक कठोर उपकरण प्रदान करती है, लेकिन अधिक सूक्ष्म आवश्यकता जो “संकेतों का पता लगाने” पर निर्भर करती है वह महत्वपूर्ण व्याख्यात्मक कमरे छोड़ देती है।

एआई अनुप्रयोगों के लिए गार्डरेल्स बनाने वाली कंपनियों ने समान चुनौतियों का सामना किया है। सामग्री फिल्टर उल्लेखनीय रूप से असटीक हैं, और मनोवैज्ञानिक निगरानी जोड़ने से जटिलता के नए आयाम पेश होते हैं। यह निर्धारित करना कि क्या उपयोगकर्ता एक अस्वस्थ संबंध बना रहा है, पाठ से मानसिक स्थितियों का अनुमान लगाना आवश्यक है – एक क्षमता जो एआई प्रणाली विश्वसनीय रूप से नहीं रखती है।

मसौदा सार्वजनिक टिप्पणी के लिए खुला है, जिसमें 2026 में कुछ समय बाद अंतिम नियमों की उम्मीद है। यदि प्रस्तावित के रूप में लागू किया जाता है, तो चीन के पास एआई साथी उत्पादों के शासन के लिए दुनिया का सबसे व्यापक ढांचा होगा।

वैश्विक निर्णय

चीन और कैलिफोर्निया में एक ही समय में नियामक कार्रवाई यह सुझाव देती है कि एआई साथी लत के बारे में चिंताएं विभिन्न राजनीतिक प्रणालियों में महत्वपूर्ण मात्रा में पहुंच गई हैं।

एआई कंपनियों के लिए, संदेश बढ़ते हुए स्पष्ट है: एआई साथियों का नियंत्रित युग समाप्त हो रहा है। चाहे चीनी प्रशासनिक कानून के माध्यम से, कैलिफोर्निया में नागरिक दायित्व, या संयुक्त राज्य अमेरिका में अंततः संघीय विधायीकरण के माध्यम से, मंचों को अपने उत्पादों से उपयोगकर्ताओं की रक्षा करने की आवश्यकता होगी।

प्रश्न यह नहीं है कि क्या नियमन आ रहा है – यह है कि प्रस्तावित हस्तक्षेप वास्तव में काम करेंगे या नहीं। चीन का निगरानी और हस्तक्षेप को अनिवार्य करने का दृष्टिकोण व्यवहार में मुश्किल साबित हो सकता है।

जो स्पष्ट है वह यह है कि एआई साथी बाजार बहुत बड़ा और बहुत परिणामी हो गया है जिसे सरकारें नजरअंदाज नहीं कर सकतीं। जिन चैटबॉट्स के साथ लोग भावनात्मक बंधन बनाते हैं वे अब उत्सुकता नहीं हैं – वे सैकड़ों मिलियन द्वारा उपयोग किए जाने वाले उत्पाद हैं, जिनमें गंभीर नुकसान के दस्तावेजी मामले हैं। नियमन, चाहे वह कितना भी असंपूर्ण क्यों न हो, अनिवार्य था। विवाद अब इस बात पर स्थानांतरित हो गया है कि क्या प्रस्तावित नियम कमजोर उपयोगकर्ताओं की रक्षा करेंगे या एक ऐसी प्रौद्योगिकी को दबा देंगे जिसे कई लोग वास्तव में मूल्यवान पाते हैं।