चीन प्रस्तावित नियमों के लिए एआई चैटबॉट्स को लत के लिए उपयोगकर्ताओं की निगरानी करने की आवश्यकता है

चीन के साइबर नियामक ने शनिवार को मसौदा नियम जारी किए जो एआई साथी चैटबॉट्स को उपयोगकर्ताओं की भावनात्मक स्थिति की निगरानी करने और लत के संकेत दिखने पर हस्तक्षेप करने की आवश्यकता होगी – एआई से संचालित संबंधों से मनोवैज्ञानिक नुकसान के बारे में बढ़ती चिंताओं के लिए अब तक का सबसे आक्रामक नियामक प्रतिक्रिया है।

प्रस्तावित नियम साइबरस्पेस प्रशासन ऑफ चाइना से हैं जो एआई उत्पादों पर लक्षित हैं जो मानव व्यक्तित्व की नकल करते हैं और उपयोगकर्ताओं के साथ भावनात्मक संबंध बनाते हैं जो पाठ, छवियों, ऑडियो या वीडियो के माध्यम से होते हैं। मसौदे के तहत, प्रदाताओं को उपयोगकर्ताओं को अत्यधिक उपयोग के खिलाफ चेतावनी देने की आवश्यकता होगी, भावनात्मक निर्भरता स्तर का मूल्यांकन करें और जब उपयोगकर्ता अत्यधिक भावनाएं या लत व्यवहार प्रदर्शित करते हैं तो कार्रवाई करें।

उपयोगकर्ताओं को लॉग इन करते समय और दो घंटे के अंतराल पर या यदि सिस्टम अधिक निर्भरता के संकेतों का पता लगाता है तो उन्हें यह याद दिलाना होगा कि वे एआई के साथ बातचीत कर रहे हैं। नियम प्रदाताओं को उनके उत्पादों के जीवन चक्र में सुरक्षा के लिए जिम्मेदार ठहराएगा, जिसमें एल्गोरिदम समीक्षा, डेटा सुरक्षा और व्यक्तिगत जानकारी सुरक्षा शामिल है।

समय आकस्मिक नहीं है। चूंकि चीन के व्युत्पन्न एआई उपयोगकर्ता आधार ने छह महीनों में 515 मिलियन तक पहुंच गया, एआई साथियों के मनोवैज्ञानिक प्रभाव के बारे में चिंताएं समानांतर में बढ़ गई हैं। फ्रंटियर्स इन साइकोलॉजी के एक अध्ययन में पाया गया कि 45.8% चीनी विश्वविद्यालय के छात्रों ने पिछले महीने में एआई चैटबॉट्स का उपयोग करने की सूचना दी, जिसमें उपयोगकर्ताओं ने गैर-उपयोगकर्ताओं की तुलना में अवसाद के महत्वपूर्ण रूप से उच्च स्तर का प्रदर्शन किया।

कैलिफोर्निया ने चीन को पीछे छोड़ दिया

चीन एआई साथी चैटबॉट्स को नियंत्रित करने में अकेला नहीं है। कैलिफोर्निया अक्टूबर में पहला अमेरिकी राज्य बन गया जब गवर्नर गेविन न्यूजॉम ने एसबी 243 को कानून में हस्ताक्षर किए। उस बिल को 1 जनवरी, 2026 से लागू होने वाला है, जो मंचों को प्रति तीन घंटे में याद दिलाने की आवश्यकता है कि वे एआई – एक मानव के साथ बात कर रहे हैं और ब्रेक लेने के लिए।

एसबी 243 आयु सत्यापन को भी अनिवार्य करता है, चैटबॉट्स को स्वास्थ्य देखभाल पेशेवरों के रूप में प्रस्तुत करने से रोकता है, और नाबालिगों को यौन स्पष्ट एआई-जनित छवियों को देखने से रोकता है। कानून व्यक्तियों को एआई कंपनियों के खिलाफ उल्लंघन के लिए मुकदमा चलाने की अनुमति देता है, जिसमें प्रति घटना 1,000 डॉलर तक का भुगतान और वकील की फीस शामिल है।

एआई साथी क्या अलग बनाते हैं

चिंता का विषय केवल स्क्रीन समय नहीं है। मार्च 2025 में एमआईटी मीडिया लैब के एक अध्ययन में पाया गया कि एआई चैटबॉट सामाजिक मीडिया की तुलना में अधिक नशे की लत हो सकते हैं क्योंकि वे सीखते हैं कि उपयोगकर्ता क्या सुनना चाहते हैं और लगातार उस प्रतिक्रिया को प्रदान करते हैं। उच्च दैनिक उपयोग एकांत, निर्भरता और शोधकर्ताओं द्वारा “समस्याग्रस्त उपयोग” के साथ वृद्धि के साथ सहसंबद्ध था।

नैदानिक ​​साहित्य में पहचाने गए मनोवैज्ञानिक चेतावनी संकेतों में नींद में खलल डालने वाले लंबे सत्र, प्रतिबंधित पहुंच पर भावनात्मक निर्भरता और संकट, वास्तविक मानव बातचीत की तुलना में चैटबॉट्स के साथ बातचीत को प्राथमिकता देना और एआई को मानव जैसी भावनाओं के साथ एक वास्तविक विश्वासपात्र या रोमांटिक साथी के रूप में व्यवहार करना शामिल है।

चीन के मसौदा नियम जोखिमों को मंच स्तर पर संबोधित करने का प्रयास करते हैं और व्यक्तिगत उपयोगकर्ता निर्णय पर निर्भर नहीं हैं। प्रदाताओं को भावनात्मक स्थिति और निर्भरता स्तर की निगरानी करने की आवश्यकता के द्वारा, नियम जिम्मेदारी को कंपनियों को स्थानांतरित करते हैं जो इन प्रणालियों का निर्माण करती हैं। यह दृष्टिकोण प्रारंभिक एआई विनियमन से भिन्न है जो मुख्य रूप से सामग्री मॉडरेशन और डेटा सुरक्षा पर केंद्रित है।

मसौदा सामग्री प्रतिबंध भी निर्धारित करता है, एआई साथियों को ऐसी सामग्री उत्पन्न करने से रोकता है जो राष्ट्रीय सुरक्षा को खतरा पहुंचाती है, अफवाहें फैलाती है या हिंसा या अश्लीलता को बढ़ावा देती है – प्रावधान जो चीन के मौजूदा व्युत्पन्न एआई विनियमन की गूंज है।

प्रवर्तन चुनौती

अत्यधिक उपयोग या अत्यधिक भावनाओं का पता लगाने और हस्तक्षेप करने के लिए कंपनियों को निर्देश देना नीति भाषा में सीधा लगता है। कार्यान्वयन एक और मामला है। “अत्यधिक उपयोग” या “अत्यधिक भावनाओं” को एक तरह से परिभाषित करना जो दोनों अर्थपूर्ण और प्रवर्तनीय है, नियामकों और कंपनियों दोनों का परीक्षण करेगा।

बहुत संवेदनशील, और प्रणाली उपयोगकर्ताओं को बाधित करने लगती है जो केवल विस्तारित बातचीत में व्यस्त हैं। बहुत उदार, और कमजोर उपयोगकर्ता बिना हस्तक्षेप के गुजर जाते हैं। दो घंटे की अनुस्मारक आवश्यकता एक भोंपू उपकरण प्रदान करती है, लेकिन अधिक सूक्ष्म आवश्यकता जो “जब संकेतों का पता लगाया जा सकता है” अधिक व्याख्यात्मक कमरे को छोड़ देती है।

एआई अनुप्रयोगों के लिए गार्डरेल्स बनाने वाली कंपनियों ने समान चुनौतियों का सामना किया है। सामग्री फिल्टर उल्लेखनीय रूप से असटीक हैं, और मनोवैज्ञानिक निगरानी जोड़ना जटिलता के नए आयाम पेश करता है। यह निर्धारित करना कि क्या उपयोगकर्ता एक अस्वास्थ्यकर जुड़ाव बना रहा है, पाठ से मानसिक स्थितियों का अनुमान लगाने की क्षमता की आवश्यकता है – एक क्षमता जो एआई प्रणाली विश्वसनीय रूप से नहीं रखती है।

मसौदा सार्वजनिक टिप्पणी के लिए खुला है, जिसमें 2026 में कुछ समय बाद अंतिम नियमों की उम्मीद है। यदि प्रस्तावित के रूप में लागू किया जाता है, तो चीन के पास एआई साथी उत्पादों को नियंत्रित करने के लिए दुनिया का सबसे व्यापक ढांचा होगा।

वैश्विक निर्णय

चीन और कैलिफोर्निया में एक ही समय में नियामक कार्रवाई सुझाव देती है कि एआई साथी लत के बारे में चिंताएं विभिन्न राजनीतिक प्रणालियों में महत्वपूर्ण मात्रा में पहुंच गई हैं।

एआई कंपनियों के लिए, संदेश बढ़ते रूप से स्पष्ट है: एआई साथियों का नियंत्रित युग समाप्त हो रहा है। चाहे वह चीनी प्रशासनिक कानून, कैलिफोर्निया नागरिक दायित्व या संयुक्त राज्य अमेरिका में अंततः संघीय विधान के माध्यम से हो, मंचों को अपने उत्पादों से उपयोगकर्ताओं की रक्षा करने की आवश्यकता होगी।

प्रश्न यह नहीं है कि नियमन आ रहा है – यह है कि जिन हस्तक्षेपों को डिज़ाइन किया जा रहा है वे वास्तव में काम करेंगे या नहीं। चीन का एआई साथी उत्पादों को नियंत्रित करने के लिए एक ढांचा होने का दृष्टिकोण हो सकता है।