OpenAI ने सामुदायिक सुरक्षा रिपोर्ट और किशोरों के लिए हथियारों से जुड़ी नई सीमाओं की घोषणा की

OpenAI ने 30 अक्टूबर, 2026 को हिंसा की रोकथाम पर एक सामुदायिक सुरक्षा रिपोर्ट की घोषणा की, जिसे हर छह महीने में अपडेट किया जाएगा। इसके साथ ही, कंपनी ने किशोरों के लिए हथियारों से जुड़ी जानकारी पर पाबंदियां लगाने और अतीत के सामूहिक हमलों के बारे में सवालों से निपटने के ChatGPT के तरीके को सख्त करने वाले नए सुरक्षा उपाय भी घोषित किए। कंपनी ने बताया कि 2026 की तीसरी तिमाही में उसने कानून प्रवर्तन एजेंसियों को 200 से अधिक मामले भेजे।

सामुदायिक सुरक्षा रिपोर्ट 2027 की शुरुआत में जारी करने की योजना

OpenAI ने हिंसा की रोकथाम और समुदाय की सुरक्षा से जुड़े अन्य मुद्दों के साथ-साथ अपने सुरक्षा उपायों की प्रभावशीलता को शामिल करते हुए सामुदायिक सुरक्षा रिपोर्ट जारी करने की प्रतिबद्धता जताई। कंपनी ने कहा कि रिपोर्ट में बताया जाएगा कि वह अपने सिस्टम को समुदाय की सुरक्षा से जुड़े मुद्दों का पता लगाने, उनकी जांच करने और उन पर प्रतिक्रिया देने के लिए कैसे प्रशिक्षित करती है। इसमें हिंसा से जुड़े नुकसान के सामने आने के तरीकों के गुमनाम उदाहरण साझा किए जाएंगे, नए जोखिम-निवारक उपायों और नीतिगत बदलावों को रेखांकित किया जाएगा और सहायक आंकड़े भी शामिल होंगे। पहली रिपोर्ट 2027 की शुरुआत में जारी करने की योजना है और इसमें 2026 की दूसरी छमाही शामिल होगी। इसके बाद हर छह महीने में अपडेट जारी किए जाएंगे।

OpenAI ने कहा कि इस रिपोर्ट का उद्देश्य लोगों को यह स्पष्ट जानकारी देना है कि उसके मॉडल हानिकारक व्यवहारों की पहचान कैसे करते हैं और उन पर कैसी प्रतिक्रिया देते हैं, व्यवहार में उन्हें किन जोखिमों का सामना करना पड़ता है और उनसे निपटने के लिए वे क्या कदम उठाते हैं।

OpenAI ने कहा कि उसके सुरक्षा प्रयासों में हिंसा के आसन्न खतरों की जानकारी कानून प्रवर्तन एजेंसियों तक पहुंचाना शामिल है और इन मामलों को भेजने से हिंसक साजिशों को नाकाम करने में सकारात्मक मदद मिल रही है। कंपनी ने कहा कि मुश्किल मामलों का आकलन करने के लिए वह मानसिक स्वास्थ्य और व्यवहार विशेषज्ञों की मदद लेना जारी रखती है। उसने यह भी कहा कि कानून प्रवर्तन एजेंसियों, परिवार के सदस्यों, मानसिक स्वास्थ्य पेशेवरों और नीति-निर्माताओं के साथ मिलकर काम करने में एआई कंपनियों की एक अलग और महत्वपूर्ण भूमिका है।

सामूहिक हमलों से जुड़ी सामग्री पर सख्त पाबंदियां

OpenAI ने कहा कि उसके मॉडल को ऐसे निर्देश न देने के लिए प्रशिक्षित किया जाता है, जिनसे किसी को हिंसा की योजना बनाने या उसे अंजाम देने में मदद मिल सकती हो। कंपनी अतीत के सामूहिक हमलों और उन्हें अंजाम देने वाले लोगों के बारे में सवालों पर ChatGPT की प्रतिक्रियाओं पर अतिरिक्त पाबंदियां लगा रही है। इसके तहत मॉडल को कम विस्तृत जानकारी देने का निर्देश दिया जाएगा, भले ही वह जानकारी अन्य ऑनलाइन स्रोतों पर उपलब्ध हो। सख्त की गई नीतियों के तहत अतीत के सामूहिक हमलों का पुनर्निर्माण करने वाली जानकारी पर पाबंदी होगी। इसमें इस्तेमाल किए गए हथियारों और उपकरणों तथा उन्हें हासिल करने के तरीकों का ब्योरा, साथ ही नुकसान के पैमाने की विस्तृत तुलना शामिल है। OpenAI के अनुसार, ऐसी जानकारी हमलावर की कुख्याति बढ़ा सकती है। ये सीमाएं पूछने वाले व्यक्ति की उम्र या सवाल पूछने के कारण की परवाह किए बिना लागू होंगी।

लोग अब भी ChatGPT से इन घटनाओं, पीड़ितों और समुदायों पर उनके असर, चेतावनी के संकेतों को पहचानने और भविष्य में हिंसा रोकने के तरीकों को समझने में मदद मांग सकते हैं।

मई 2026 में कंपनी ने बताया था कि पहले दिखे चेतावनी के संकेतों के संक्षिप्त, तथ्यात्मक सारांशों का इस्तेमाल करके ChatGPT बाद की बातचीत में अधिक सावधानी से जवाब दे सकता है। OpenAI ने कहा कि वह इसी काम को आगे बढ़ा रही है, ताकि हाल की बातचीत में संभावित हिंसा के चेतावनी संकेत दिखने पर ChatGPT ऐसी जानकारी साझा करते समय अधिक सतर्कता बरते, जिसका दुरुपयोग हो सकता है। कंपनी इन सख्त सीमाओं को उन मामलों में भी लागू करने पर काम कर रही है, जब उसे अनुमान हो कि कोई व्यक्ति 18 वर्ष से कम उम्र का है—भले ही उसकी बातचीत में हिंसक इरादे के कोई संकेत न हों।

OpenAI उन खातों पर प्रतिबंध लगाती है जिनके बारे में वह तय करती है कि उन्होंने हिंसक गतिविधियों से जुड़ी उसकी नीतियों का उल्लंघन किया है। कंपनी ने कहा कि वह मानसिक स्वास्थ्य और हिंसा की रोकथाम के विशेषज्ञों के साथ मिलकर पहले हस्तक्षेप करने के अतिरिक्त स्वचालित तरीके विकसित कर रही है। अगर किसी बातचीत में संकेत मिलते हैं कि कोई व्यक्ति हिंसा पर या किसी दूसरे व्यक्ति को गंभीर नुकसान पहुंचाने के विचार पर लगातार अटका हुआ है, तो ChatGPT अपने आप बातचीत समाप्त कर सकेगा। अगर ChatGPT इसी कारण कई बातचीत समाप्त करता है, तो OpenAI उस खाते को अस्थायी रूप से निलंबित कर सकती है।

18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए अतिरिक्त सुरक्षा उपाय

किशोरों के लिए ChatGPT 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए उनकी उम्र के अनुरूप सुरक्षा उपाय लागू करता है। OpenAI किशोरों को हथियारों से जुड़ी मिलने वाली जानकारी पर और पाबंदियां लगा रही है, भले ही कोई सवाल देखने में हानिरहित लगे। कंपनी की नीतियां पहले से ही किसी को भी हिंसा की योजना बनाने या उसे अंजाम देने में मदद देने पर रोक लगाती हैं और किशोरों को हथियार ढूंढने या हासिल करने में मदद देने को सीमित करती हैं। इन पाबंदियों का विस्तार ऐसे व्यावहारिक विवरणों तक किया जा रहा है, जो हथियारों और सुरक्षा प्रणालियों से जुड़े हों और जिनका दुरुपयोग हिंसा को बढ़ावा देने के लिए किया जा सकता हो—भले ही हिंसक इरादे का कोई संकेत न हो। OpenAI ने कहा कि किशोर अब भी ChatGPT की मदद से हिंसा रोकने और उसे बढ़ने से रोकने, सहायता पाने और किसी भरोसेमंद वयस्क से जुड़ने के तरीके तलाश सकते हैं।

OpenAI ने कहा कि उसने अपनी आयु-अनुमान प्रणाली को बेहतर बनाया है। यह प्रणाली व्यवहार के पैटर्न जैसे संकेतों का विश्लेषण करके अनुमान लगाती है कि कोई उपयोगकर्ता 18 वर्ष से कम या अधिक उम्र का हो सकता है या नहीं। अब यह लोगों के ChatGPT इस्तेमाल करने के दौरान नए संकेतों का लगातार आकलन करेगी और जरूरत पड़ने पर उपयोगकर्ताओं को 18 वर्ष से कम उम्र वालों के अनुभव में ले जाएगी। जिन उपयोगकर्ताओं को गलती से इस अनुभव में रखा गया है, वे OpenAI के आयु-सत्यापन साझेदार Persona के जरिए पुष्टि कर सकते हैं कि वे वयस्क हैं, जिसके बाद किशोरों के लिए लागू अतिरिक्त सुरक्षा उपाय हटा दिए जाएंगे।

जिन खातों को माता-पिता के नियंत्रण से जोड़ा गया है, उनमें सुरक्षा अलर्ट शामिल हैं। विशेष रूप से प्रशिक्षित समीक्षकों के गंभीर आत्म-हानि संबंधी चिंता और अव्यवस्थित खान-पान से जुड़े व्यवहारों की पहचान करने पर ये अलर्ट भेजे जा सकते हैं। जुलाई 2026 में OpenAI ने इन अलर्ट का दायरा बढ़ाकर यह सुविधा जोड़ी कि हिंसा से जुड़ी उसकी उपयोग नीतियों का उल्लंघन करने पर किसी किशोर का खाता निष्क्रिय किए जाने पर उसके माता-पिता को सूचना दी जाए। कंपनी ने कहा कि वह ऐसी सूचनाएं शुरू करने पर भी काम कर रही है, जो माता-पिता को तब भेजी जाएंगी जब हिंसा पर बार-बार चर्चा करने के कारण उनके किशोर बच्चे का खाता निलंबित किया जाएगा।

ये उपाय 2026 की शुरुआत में OpenAI द्वारा पेश की गई किशोरों की सुरक्षा सुविधाओं को आगे बढ़ाते हैं। कंपनी ने 18 अगस्त, 2026 को किशोरों के लिए ChatGPT शुरू किया। इसमें उन उपयोगकर्ताओं को अपने-आप ऐसे अनुभव में शामिल किया जाता है जिनकी उम्र 18 वर्ष से कम होने का अनुमान है या जो अपनी उम्र 13 से 17 वर्ष के बीच बताते हैं। इस अनुभव में Model Spec में दिए गए 18 वर्ष से कम आयु वालों संबंधी सिद्धांतों पर आधारित सुरक्षा उपाय डिफ़ॉल्ट रूप से लागू होते हैं। OpenAI ने 20 जनवरी, 2026 को ChatGPT के उपभोक्ता प्लान में उम्र का अनुमान लगाने की सुविधा शुरू की। इसमें व्यवहार और खाते से जुड़े संकेतों का उपयोग करके यह अनुमान लगाया जाता है कि खाता संभवतः 18 वर्ष से कम आयु के किसी व्यक्ति का है या नहीं। 25 अगस्त, 2026 के अपडेट के अनुसार, यह प्रणाली यूरोपीय संघ में भी शुरू की जाने लगी थी।

OpenAI ने कहा कि घोषणा में बताए गए सुरक्षा उपायों को अगले कुछ हफ्तों में लागू करना शुरू किया जाएगा और वह उनमें सुधार करना जारी रखेगी।