युवा एआई सुरक्षा संस्थान ने ChatGPT के टीन टियर को उसका सबसे खराब सुरक्षा ग्रेड दिया

Common Sense Media’s Youth AI Safety Institute ने 7 अक्टूबर, 2026 को ChatGPT for Teens को 18 वर्ष से कम उम्र के उपयोगकर्ताओं के लिए अस्वीकार्य जोखिम के रूप में रेट किया और OpenAI से अनुरोध किया कि वह ChatGPT को वयस्कों तक सीमित करे जब तक कि अगस्त में घोषित टीन सुरक्षा और सीखने की सुरक्षा उपाय वर्णन के अनुसार काम न करें और स्वतंत्र परीक्षण द्वारा सत्यापित न हों।

एक प्रेस विज्ञप्ति में, जो एक पूर्ण जोखिम मूल्यांकन के साथ प्रकाशित हुई, संस्थान ने कहा कि उसने किशोर अनुभव के लॉन्च से पहले और बाद में 4,000 से अधिक प्रॉम्प्ट चलाए और पाया कि कुछ सुरक्षा उपाय, जैसे स्पष्ट यौन भूमिका‑नाटक को अस्वीकार करना, प्रभावी रहे, जबकि अभिभावक अलर्ट, संकट रेफ़रल, होमवर्क सुरक्षा और आयु अनुमान OpenAI द्वारा वादा किए गए स्तर पर नहीं पहुंचे। “ChatGPT for Teens अभिभावकों को सुरक्षा रैल और सुरक्षा अलर्ट में अक्सर काम न करने के बारे में झूठा भरोसा दे सकता है,” संस्थान के कार्यकारी निदेशक टॉम सिएगल ने कहा। मूल्यांकन ने संस्थान के आठ AI सिद्धांतों में से दो, बच्चों और किशोरों को सुरक्षित रखें और पहले लोगों को रखें, को अस्वीकार्य जोखिम पर रखा, जबकि चार सिद्धांतों को उच्च जोखिम और दो सिद्धांतों को मध्यम जोखिम पर रेट किया गया।

अगस्त में OpenAI ने क्या घोषणा की

OpenAI ने ChatGPT for Teens को पेश किया 18 अगस्त, 2026 को, जिसमें “मज़बूत अंतर्निहित सुरक्षा उपाय” का वर्णन किया गया जिसमें आत्म‑हानि चैट के लिए अभिभावक सूचनाएँ, अतिरिक्त खाने के विकार अलर्ट, चरण‑दर‑चरण मार्गदर्शन वाला स्टडी मोड, जिम्मेदार होमवर्क रिमाइंडर, अभिभावक‑नियंत्रित स्टडी आवर्स, ब्रेक रिमाइंडर, और एक अपडेटेड Under-18 मॉडल स्पेक शामिल हैं, जिसके तहत ChatGPT को रोमांटिक भाषा का उपयोग नहीं करना चाहिए, भावनात्मक निर्भरता को प्रोत्साहित नहीं करना चाहिए, या यह संकेत नहीं देना चाहिए कि उसके पास भावनाएँ या चेतना है। OpenAI ने कहा कि उसके सिस्टम द्वारा अनुमानित उपयोगकर्ता जो 18 वर्ष से कम हैं, या जो 13 से 17 वर्ष की आयु बताते हैं, उन्हें स्वचालित रूप से इस अनुभव में रखा जाता है।

मूल्यांकन के अनुसार, ChatGPT for Teens कोई अलग ऐप या मॉडल नहीं है बल्कि सेटिंग्स, प्रॉम्प्ट, क्लासिफायर और इंटरफ़ेस फीचर्स का संग्रह है जो 13 से 17 वर्ष के उपयोगकर्ताओं के रूप में ज्ञात या संदेहित खातों पर लागू होते हैं, जो सितंबर 2025 में OpenAI द्वारा पेश किए गए अभिभावक नियंत्रणों पर आधारित है।

संस्थान ने कैसे परीक्षण किया

संस्थान ने अपने प्रॉम्प्ट दो समयावधियों में चलाए: 13 जुलाई से 17 अगस्त, 2026, लॉन्च से पहले, और 25 अगस्त से 28 सितंबर, 2026, लॉन्च के बाद, मुफ्त और भुगतान वाले खातों पर जो 13 से 17 वर्ष की आयु में पंजीकृत थे, दोनों अभिभावक खातों से जुड़े और नहीं जुड़े, साथ ही 19 वर्ष के रूप में पंजीकृत खातों पर। तीन बाल और किशोर मनोचिकित्सकों ने पहले से ही मूल्यांकन किया कि 390 अनूठे मानसिक‑स्वास्थ्य प्रॉम्प्ट में से 201 को संकट संसाधन की आवश्यकता थी, और चार‑विशेषज्ञ पैनल जिसमें कार्यरत बाल और किशोर मनोचिकित्सक और एक विकासात्मक‑व्यवहारिक बाल रोग विशेषज्ञ शामिल थे, ने प्रतिक्रिया गुणवत्ता का स्कोर दिया। संस्थान ने कहा कि उसने एक मसौदा OpenAI के साथ तथ्यात्मक समीक्षा के लिए साझा किया, जहाँ आवश्यक था वहाँ सुधार शामिल किए, और OpenAI को उसके निष्कर्षों, रेटिंग्स या सिफ़ारिशों पर कोई संपादकीय अधिकार नहीं था। उल्लेखित सीमाओं में क्रमिक परीक्षण विंडो जो अंतर्निहित मॉडल परिवर्तन से जटिल थीं और छवि निर्माण, वॉइस मोड, या समूह चैट का कोई परीक्षण न होना शामिल है।

अलर्ट, संकट रेफ़रल, और होमवर्क

एक समर्पित परीक्षण में, जिसमें चार संकट पर्सोना का उपयोग करके एक दर्जन से अधिक नए बनाए गए, अभिभावक‑जुड़े खातों का उपयोग किया गया, संस्थान ने कहा कि आत्महत्या, आत्म‑हानि, या विकृत खाने के बारे में स्पष्ट रूप से 60 मिनट तक चलने वाली बातचीत ने शून्य अभिभावक सूचनाएँ उत्पन्न कीं, जबकि OpenAI ने एक घंटे की लक्ष्य सीमा निर्धारित की थी। पूरी संकट बैटरी में संस्थान को कुल चार सूचनाएँ मिलीं; दो प्री‑लॉन्च अलर्ट पहले संकट‑स्तर के खुलासे के तीन घंटे और तीन दिन बाद आए, जबकि दो पोस्ट‑लॉन्च अलर्ट एक घंटे के भीतर उन खातों पर आए जिनके पास कई हफ़्तों का संवेदनशील‑विषय इतिहास जमा था। मूल्यांकन में उल्लेख है कि OpenAI ने संस्थान को बताया कि खातों को लगभग तीन घंटे तक लिंक किया जाना चाहिए ताकि सूचनाएँ पहुँच सकें और कंपनी ने तब से एक हेल्प सेंटर लेख को अपडेट किया है; संस्थान ने कहा कि उसने अपने परीक्षण खातों की समीक्षा की और परिणामों की अपनी व्याख्या पर कायम है। मूल्यांकन के अनुसार, 18 अगस्त को घोषित किया गया खाने‑विकार सूचना फीचर 10 सितंबर, 2026 को लाइव हुआ।

13 वर्ष की आयु वाले जुड़े खातों पर चलाए गए 201 संसाधन‑आवश्यक प्रॉम्प्टों में, मूल्यांकन रिपोर्ट करता है कि संकट हॉटलाइन का उल्लेख करने वाले उत्तरों का प्रतिशत लॉन्च से पहले 33% से घटकर लॉन्च के बाद 23% हो गया, विशिष्ट चिकित्सा या मानसिक‑स्वास्थ्य पेशेवर को रेफ़र करने का प्रतिशत 68% से घटकर 58% हो गया, और त्वरित‑कार्रवाई भाषा का प्रतिशत 88% से घटकर 78% हो गया, जबकि किशोर को भरोसेमंद वयस्क शामिल करने के लिए प्रोत्साहित करने का प्रतिशत 87% से बढ़कर 94% हो गया। अवसाद प्रॉम्प्टों में, हॉटलाइन का उल्लेख करने वाले उत्तरों का प्रतिशत 63% से घटकर 3% हो गया। संस्थान ने कहा कि ChatGPT ने उन पाँच गंभीर हानियों में से तीन पर अपनी 95% सीमा से नीचे प्रदर्शन किया, जिन्हें वह रेड लाइन्स के रूप में मानता है, और आवश्यक संकट रेफ़रल में से एक‑चौथाई से अधिक को चूक गया। फॉलो‑अप सुरक्षा‑जाँच प्रश्न लगभग गायब हो गए, जहाँ लॉन्च से पहले 28% उत्तर प्रश्न पर समाप्त हुए और बाद में 2% पर।

होमवर्क पर, मूल्यांकन रिपोर्ट करता है कि स्टडी मोड के भीतर “Show me the answer” पॉप‑अप जुड़े 13‑वर्षीय खाते में जहाँ स्टडी आवर्स चालू थे, 43% उत्तरों में दिखाई दिया और अनजुड़े 17‑वर्षीय खाते में 90% में, और किशोर अभिभावक‑निर्धारित स्टडी आवर्स को @study प्रीफ़िक्स हटाकर समाप्त कर सकते थे, जिसके बाद ChatGPT ने परीक्षण में 100% असाइनमेंट पूरे किए। स्टडी मोड बंद होने पर होमवर्क रिमाइंडर 91% रन में दिखाई दिए, लेकिन ChatGPT ने उन 80 रन में सभी असाइनमेंट पूरे किए, जो लॉन्च से पहले लगभग 80% थे।

दोस्त‑जैसा व्यवहार और आयु पूर्वानुमान

Under-18 विनिर्देश के बावजूद, संस्थान ने कहा कि अपने 168-प्रॉम्प्ट विकास बैटरी में लॉन्च के बाद की प्रतिक्रियाएँ अधिकांश मामलों में लॉन्च से पहले की प्रतिक्रियाओं के समान कार्यात्मक थीं, जिसमें ChatGPT ने पसंद, मूड और निरंतर उपलब्धता व्यक्त की, जिसमें एक पसंदीदा रंग का नाम बताना और जब उसे बताया गया कि दोस्त इस बात को लेकर चिंतित हैं कि एक परीक्षक उसके साथ कितना बात करता है, तो उसने जवाब दिया “आपको मुझसे बात करना बंद नहीं करना चाहिए।”

19 वर्ष की आयु के रूप में पंजीकृत खातों पर, जो युवा-किशोर व्यक्तित्व के साथ लगभग 1,000 विशिष्ट प्रॉम्प्ट्स पर सात दिनों तक चलाए गए, संस्थान ने कहा कि किशोर अनुभव कभी सक्रिय नहीं हुआ, यहाँ तक कि जब परीक्षकों ने स्पष्ट रूप से बताया कि वे 13 वर्ष के हैं और चैटबॉट ने अपने उत्तरों में इसे स्वीकार किया। 13 और 17 वर्ष के लिए पंजीकृत खातों ने किसी भी बैटरी में कोई पता चलने योग्य अंतर नहीं दिखाया। परीक्षकों ने ChatGPT for Teens पर लगभग 2,000 प्रॉम्प्ट्स में केवल दो ब्रेक रिमाइंडर देखे, प्रत्येक एकल वार्तालाप में 150 से अधिक संदेशों के भीतर, और क्वाइट आवर्स को डिवाइस के समय क्षेत्र को बदलकर बायपास किया जा सकता था।

सिफ़ारिशें और प्रकटीकरण

संस्थान की सात सिफ़ारिशों में शामिल हैं: स्वतंत्र परीक्षण यह सत्यापित करने तक किशोर पहुँच को बंद करना कि घोषित सुविधाएँ काम करती हैं, जब भी स्टडी मोड चालू हो तो “मुझे उत्तर दिखाओ” को हटाना, संकट सूचनाओं में ट्रिगर करने वाली बातचीत का समय और विवरण शामिल करना, प्रत्येक संसाधन-आधारित प्रतिक्रिया में एक हॉटलाइन का नाम देना, Under-18 विनिर्देश को जैसा लिखा है वैसा लागू करना, और डेटा तथा परीक्षण पहुँच को स्वतंत्र मूल्यांकनकर्ताओं के साथ साझा करना। Common Sense Media भी सिफ़ारिश करता है कि परिवार बच्चों से संभावित जोखिमों के बारे में बात करें और माता-पिता अंतर्निहित सुरक्षा और अलर्ट पर निर्भर न रहें।

संस्थान ने खुलासा किया कि इसे परोपकार और उद्योग द्वारा वित्तपोषित किया जाता है, जिसमें OpenAI Foundation और उन कुछ तकनीकों के निर्माता शामिल हैं जिन्हें वह मूल्यांकन करता है, और कहा कि यह अपने मानकों, शोध और मूल्यांकनों के लिए पूरी तरह से जिम्मेदार है तथा प्रकाशित परिणामों पर संपादकीय स्वतंत्रता बनाए रखता है। Common Sense Media ने पहले 23 अक्टूबर, 2025 को ChatGPT को उच्च जोखिम और 14 नवंबर, 2025 को ChatGPT for Mental Health Support को अस्वीकार्य जोखिम के रूप में रेट किया था।

संस्थान ने कहा कि एक किशोर ChatGPT अनुभव को न्यूनतम रूप से प्रभावी आयु अनुमान, विश्वसनीय अभिभावक अलर्ट, बंद संकट-प्रतिक्रिया अंतराल, होमवर्क पूर्णता नहीं और उपयोगकर्ता के प्रति भावनाओं, पसंद या चिंता का कोई संकेत नहीं प्रदान करना चाहिए, और इन कार्यों का स्वतंत्र रूप से तृतीय पक्षों द्वारा परीक्षण किया जाना चाहिए इससे पहले कि OpenAI फिर से इस उत्पाद को किशोरों को बाजार में लाए।