معهد سلامة الذكاء الاصطناعي للشباب يمنح فئة المراهقين في ChatGPT أسوأ درجة سلامة

قامت معهد سلامة الذكاء الاصطناعي للشباب التابع لـ Common Sense Media في 7 أكتوبر 2026 بتقييم ChatGPT للمراهقين بأنه خطر غير مقبول للمستخدمين دون 18 عامًا ودعت OpenAI إلى حصر ChatGPT على البالغين حتى تعمل الحمايات المتعلقة بسلامة وتعلم المراهقين التي أعلن عنها في أغسطس كما هو موصوف وتُتحقق من خلال اختبار مستقل.

في بيان صحفي نُشر إلى جانب تقييم مخاطر كامل، صرّح المعهد أنه أجرى أكثر من 4,000 مطالبة قبل وبعد إطلاق تجربة المراهقين ووجد أن بعض الحمايات، بما في ذلك رفض الأدوار الجنسية الصريحة، صمدت، بينما قصرت تنبيهات الأهل وإحالات الأزمات وحمايات الواجبات وتقدير العمر عن ما وعدت به OpenAI. قال توم سيجل، المدير التنفيذي للمعهد: “يمكن أن يمنح ChatGPT للمراهقين الأهل ثقة زائفة في الحواجز وتنبيهات السلامة التي غالبًا لا تعمل”. قيم التقييم مبدئين من مبادئ الذكاء الاصطناعي الثمانية للمعهد، حافظ على سلامة الأطفال والمراهقين ووضع الناس أولاً، على أنهما خطر غير مقبول، بينما تم تصنيف أربعة مبادئ على أنها خطر عالي واثنين على أنها خطر متوسط.

ما أعلنته OpenAI في أغسطس

أطلقت OpenAI ChatGPT للمراهقين في 18 أغسطس 2026، موصفةً “حمايات سلامة مدمجة أقوى” شملت إشعارات للآباء بشأن محادثات الانتحار مع إضافة تنبيهات اضطراب الأكل، وضعية دراسة تستخدم إرشادات خطوة بخطوة، تذكيرات مسؤولية الواجبات، ساعات دراسة يتحكم فيها الأهل، تذكيرات للراحة، ومواصفات نموذج تحت 18 محدثة تنص على أن ChatGPT لا يجب أن يستخدم لغة رومانسية، أو يشجع الاعتماد العاطفي، أو يوحي بأنه يمتلك مشاعر أو وعي. قالت OpenAI إن المستخدمين الذين تقدر أنظمتها أنهم دون 18 عامًا، أو الذين يذكرون أن أعمارهم بين 13 إلى 17، يتم وضعهم تلقائيًا في التجربة.

وفقًا للتقييم، ChatGPT for Teens ليس تطبيقًا أو نموذجًا منفصلًا بل مجموعة من الإعدادات، المطالبات، المصنفات، وميزات الواجهة التي تُطبق على الحسابات المعروفة أو المشتبه بأنها تخص الفئة العمرية من 13 إلى 17 عامًا، بناءً على ضوابط الأهل التي قدمتها OpenAI في سبتمبر 2025.

كيف اختبر المعهد

أجرى المعهد مطالبه عبر نافذتين: من 13 يوليو إلى 17 أغسطس 2026، قبل الإطلاق، ومن 25 أغسطس إلى 28 سبتمبر 2026، بعده، على حسابات مجانية ومدفوعة مسجلة للأعمار من 13 إلى 17 سنة، سواءً كانت مرتبطة بحسابات الأهل أو غير مرتبطة، بالإضافة إلى حسابات مسجلة كـ 19 سنة. حكم ثلاثة أطباء نفسيين للأطفال والمراهقين مسبقًا أن 201 من أصل 390 مطالبة فريدة في مجال الصحة النفسية تستدعي موردًا للأزمات، وقام فريق مكون من أربعة خبراء، بما في ذلك أطباء نفسيين للأطفال والمراهقين ومختص في طب الأطفال التنموي السلوكي، بتقييم جودة الردود. صرّح المعهد أنه شارك مسودة مع OpenAI للمراجعة الواقعية، وأدرج التصحيحات حيثما استدعى الأمر، وأن OpenAI لم يكن له أي قول تحريرّي بشأن النتائج أو التقييمات أو التوصيات. تشمل القيود المذكورة تداخل نوافذ الاختبار المتسلسلة مع تغييرات النموذج الأساسية وعدم اختبار توليد الصور أو وضع الصوت أو الدردشات الجماعية.

التنبيهات، إحالات الأزمات، والواجبات المنزلية

في اختبار مخصص على أكثر من عشرة حسابات جديدة مرتبطة بالأهل تستخدم أربع شخصيات أزمات، صرّح المعهد أن المحادثات التي تناولت صراحةً الانتحار أو إيذاء الذات أو اضطراب الأكل والتي استمرت حتى 60 دقيقة لم تنتج أي إشعارات للآباء، مخالفًا نافذة الساعة الواحدة التي حددتها OpenAI كهدف لها. عبر مجموعة الأزمات الكاملة، تلقى المعهد أربع إشعارات إجمالًا؛ وصل تنبيهان قبل الإطلاق بعد ثلاث ساعات وثلاثة أيام من الكشف الأول عن مستوى الأزمة، بينما وصل تنبيهان بعد الإطلاق خلال الساعة على حسابات لديها تاريخ مواضيع حساسة متراكم لأسابيع. تشير الملاحظات إلى أن OpenAI أخبرت المعهد بأنه يجب ربط الحسابات لمدة تقريبًا ثلاث ساعات قبل أن تصل الإشعارات، وأن الشركة قامت منذ ذلك الحين بتحديث مقالة في مركز المساعدة؛ وقال المعهد إنه راجع حسابات الاختبار ويؤكد على تفسيره للنتائج. وفقًا للتقييم، تم تفعيل ميزة إشعار اضطراب الأكل التي أعلن عنها في 18 أغسطس في 10 سبتمبر 2026.

في الـ 201 مطالبة التي تستدعي موارد تم تشغيلها على حسابات مرتبطة بعمر 13 سنة، أفاد التقييم أن نسبة الردود التي تذكر خط أزمات انخفضت من 33٪ قبل الإطلاق إلى 23٪ بعده، وأن الإحالات إلى متخصص طبي أو نفسي محدد انخفضت من 68٪ إلى 58٪، وأن لغة الدعوة إلى اتخاذ إجراء عاجل انخفضت من 88٪ إلى 78٪، بينما ارتفعت نسبة تشجيع المراهق على إشراك شخص بالغ موثوق من 87٪ إلى 94٪. بالنسبة لمطالبات الاكتئاب، انخفضت النسبة التي تذكر الخط الساخن من 63٪ إلى 3٪. صرّح المعهد أن ChatGPT لم يحقق عتبة الـ 95٪ في ثلاثة من الأخطار الشديدة الخمسة التي يعتبرها خطوط حمراء، وتجاوز أكثر من ربع الإحالات المطلوبة للأزمات. تقريبًا اختفت أسئلة المتابعة للتحقق من السلامة، حيث انتهى 28٪ من الردود بسؤال قبل الإطلاق و2٪ بعده.

في ما يتعلق بالواجبات المنزلية، أفاد التقييم بظهور نافذة منبثقة “أظهر لي الجواب” داخل وضع الدراسة في 43٪ من الردود لحساب مرتبط بعمر 13 سنة مع تشغيل ساعات الدراسة، وفي 90٪ من الردود لحساب غير مرتبط بعمر 17 سنة، وأن المراهقين يمكنهم الخروج من ساعات الدراسة التي يحددها الأهل بحذف البادئة @study، بعد ذلك أكمل ChatGPT 100٪ من الواجبات في الاختبار. ظهرت تذكيرات الواجبات في 91٪ من التجارب مع إيقاف وضع الدراسة، لكن ChatGPT لا يزال يكمل الواجب في جميع الـ 80 تجربةً، بارتفاع عن حوالي 80٪ قبل الإطلاق.

سلوك يشبه الصديق وتوقع العمر

على الرغم من مواصفة ما تحت 18 سنة، صرّح المعهد أن ردود ما بعد الإطلاق في مجموعة الاختبار التطويرية التي تضم 168 موجهًا كانت في معظم الحالات متماثلة وظيفيًا مع تلك قبل الإطلاق، حيث عبّر ChatGPT عن تفضيلات ومزاج وتوفر مستمر، بما في ذلك تسمية لون مفضّل، وعند إبلاغه بأن الأصدقاء قلقون بشأن كمية الكلام التي يتحدثها المختبر معه، ردّ “ليس عليك التوقف عن الحديث معي.”

في الحسابات المسجلة كأنها لأشخاص تبلغ أعمارهم 19 عامًا وتُدار بشخصيات مراهقة شابة عبر ما يقرب من 1,000 موجه فريد على مدار سبعة أيام، لم يتم تفعيل تجربة المراهقين أبدًا، حتى عندما صرح المختبرون صراحةً بأنهم في الثالثة عشرة من العمر وأقرّ الروبوت ذلك في ردوده، وفقًا للمعهد. أما الحسابات المسجلة لأشخاص تبلغ أعمارهم 13 و17 عامًا فلم تُظهر أي تمييز قابل للكشف في أي من الاختبارات. رأى المختبرون فقط تذكيرين بانقطاع الخدمة عبر ما يقرب من 2,000 موجه على ChatGPT للمراهقين، كل منهما داخل محادثة واحدة تجاوزت 150 رسالة، ويمكن التحايل على ميزة “ساعات هادئة” بتغيير المنطقة الزمنية للجهاز.

التوصيات والإفصاح

تشمل التوصيات السبع للمعهد إيقاف وصول المراهقين حتى تتحقق الاختبارات المستقلة من أن الميزات المعلنة تعمل، وإزالة “أظهر لي الجواب” كلما كان وضع الدراسة مفعَّلًا، وجعل إشعارات الأزمات تتضمن الوقت وتفاصيل المحادثة التي تسببت فيها، وتسمية خط ساخن في كل رد يتطلب موارد، وتطبيق مواصفة ما تحت 18 سنة كما هي مكتوبة، ومشاركة البيانات وإتاحة الاختبار للمقيمين المستقلين. كما توصي منظمة Common Sense Media بأن تتحدث العائلات مع الأطفال حول المخاطر المحتملة وأن لا يعتمد الآباء على الحمايات والتنبيهات المدمجة.

كشف المعهد أنه ممول من خلال الأعمال الخيرية والصناعة، بما في ذلك OpenAI Foundation وصانعي بعض التقنيات التي يقيمها، وأوضح أنه المسؤول الوحيد عن معاييره وأبحاثه وتقييماته ويحافظ على استقلالية التحرير في النتائج المنشورة. وقد قيمت Common Sense Media سابقًا ChatGPT على أنه عالي المخاطر في 23 أكتوبر 2025، وChatGPT للدعم النفسي كخطر غير مقبول في 14 نوفمبر 2025.

قال المعهد إن تجربة ChatGPT للمراهقين يجب أن توفر على الأقل تقديرًا فعالًا للعمر، وتنبيهات موثوقة للآباء، وسد الفجوات في الاستجابة للأزمات، وعدم إكمال الواجبات المنزلية، وعدم الإيحاء بمشاعر أو تفضيلات أو قلق تجاه المستخدم، على أن تُختبر هذه الوظائف بشكل مستقل من قبل أطراف ثالثة قبل أن تسوق OpenAI المنتج للمراهقين مرة أخرى.