تعلن OpenAI عن تقرير لسلامة المجتمع وقيود جديدة على الأسلحة للمراهقين

في 30 أكتوبر 2026، أعلنت OpenAI عن تقرير للسلامة المجتمعية بشأن منع العنف، ستحدّثه كل ستة أشهر، إلى جانب إجراءات حماية جديدة تقيّد المعلومات المتعلقة بالأسلحة المتاحة للمراهقين، وتشدد كيفية تعامل ChatGPT مع الأسئلة عن الهجمات الجماعية السابقة. وقالت الشركة إنها أحالت أكثر من 200 حالة إلى جهات إنفاذ القانون في الربع الثالث من عام 2026.

تقرير سلامة المجتمع مرتقب في أوائل عام 2027

التزمت OpenAI بإطلاق تقرير سلامة المجتمع، الذي سيغطي الوقاية من العنف وغيرها من قضايا سلامة المجتمع، فضلًا عن مدى فاعلية إجراءات الحماية التي تعتمدها. وقالت الشركة إن التقرير سيشرح كيفية تدريب أنظمتها على رصد قضايا سلامة المجتمع والتحقيق فيها والاستجابة لها، وسيعرض أمثلة مجهّلة الهوية على تجليات الأضرار المرتبطة بالعنف، ويسلط الضوء على تدابير جديدة للحد من المخاطر وتغييرات في السياسات، ويضم بيانات داعمة. ومن المقرر نشر التقرير الأول في أوائل عام 2027، وسيغطي النصف الثاني من عام 2026، على أن تصدر تحديثات كل ستة أشهر بعد ذلك.

قالت OpenAI إن الغرض من التقرير هو أن يقدم للناس صورة واضحة عن كيفية تعرف نماذجها إلى السلوك الضار واستجابتها له، وعن المخاطر التي ترصدها عمليًا والخطوات التي تتخذها لمعالجتها.

قالت OpenAI إن جهودها في مجال السلامة تشمل إبلاغ جهات إنفاذ القانون بالتهديدات الوشيكة بالعنف، وإن هذه الإحالات تسهم إسهامًا إيجابيًا في إحباط المخططات العنيفة. وأضافت الشركة أنها تواصل الاستعانة بخبراء في الصحة النفسية والسلوك لتقييم الحالات الصعبة، ووصفت دور شركات الذكاء الاصطناعي بأنه دور متميز تؤديه إلى جانب جهات إنفاذ القانون وأفراد الأسرة واختصاصيي الصحة النفسية وصانعي السياسات.

قيود أشد على محتوى الهجمات الجماعية

قالت OpenAI إن نماذجها مدرّبة على عدم تقديم تعليمات من شأنها مساعدة أي شخص على التخطيط للعنف أو تنفيذه. وتفرض الشركة قيودًا إضافية على طريقة استجابة ChatGPT للأسئلة عن الهجمات الجماعية السابقة والأشخاص الذين نفذوها، إذ توجه النموذج إلى تقديم معلومات أقل تفصيلًا، حتى عندما تكون تلك المعلومات متاحة في مصادر أخرى على الإنترنت. وتحدّ السياسات المشددة من إعادة بناء تفاصيل الهجمات الجماعية السابقة، بما في ذلك تفاصيل الأسلحة والمعدات المستخدمة وكيفية الحصول عليها، فضلًا عن المقارنات التفصيلية بشأن حجم الأضرار، التي قالت OpenAI إنها قد تزيد من شهرة منفذ الهجوم. وتسري هذه القيود بصرف النظر عن عمر المستخدم أو سبب طرحه للسؤال.

لا يزال بإمكان الناس أن يطلبوا من ChatGPT مساعدتهم على فهم هذه الأحداث، ومعرفة أثرها في الضحايا والمجتمعات، والتعرف إلى مؤشرات التحذير والوقاية من العنف مستقبلًا.

في مايو 2026، أوضحت الشركة كيف يمكن لـChatGPT استخدام ملخصات موجزة وواقعية لمؤشرات تحذير سابقة كي يستجيب بمزيد من الحذر في محادثة لاحقة. وقالت OpenAI إنها تبني على هذا العمل، بحيث يستجيب ChatGPT بتحفظ أكبر عند مشاركة معلومات قد يُساء استخدامها إذا أظهرت المحادثات الأخيرة مؤشرات تحذير على احتمال وقوع عنف. كما تعمل الشركة على تطبيق هذه القيود الأشد عندما يتوقع النظام أن عمر شخص ما أقل من 18 عامًا، حتى إن لم تُظهر محادثاته أي مؤشرات على نية عنيفة.

تحظر OpenAI الحسابات التي تقرر أنها انتهكت سياساتها المتعلقة بالأنشطة العنيفة. وقالت الشركة إنها تعمل مع خبراء في الصحة النفسية والوقاية من العنف على تطوير وسائل إضافية مؤتمتة للتدخل في وقت أبكر: فعندما تُظهر محادثة ما مؤشرات على انشغال شخص بالعنف أو بفكرة إلحاق أذى جسيم بشخص آخر، سيتمكن ChatGPT من إنهاء المحادثة تلقائيًا، وإذا أنهى ChatGPT عدة محادثات لهذا السبب، فقد توقف OpenAI الحساب مؤقتًا.

إجراءات حماية إضافية للمستخدمين دون 18 عامًا

يطبّق ChatGPT للمراهقين إجراءات حماية ملائمة للعمر للمستخدمين دون 18 عامًا، وتفرض OpenAI قيودًا إضافية على المعلومات المتعلقة بالأسلحة التي يمكن للمراهقين تلقيها، حتى عندما يبدو السؤال غير ضار. وتحظر سياسات الشركة بالفعل تقديم المساعدة لأي شخص على التخطيط للعنف أو تنفيذه، كما تقيّد مساعدة المراهقين في العثور على الأسلحة أو الحصول عليها؛ ويوسّع الإجراء الجديد نطاق هذه القيود ليشمل المعلومات العملية عن الأسلحة وأنظمة الأمن التي يمكن إساءة استخدامها لتسهيل العنف، حتى في غياب أي مؤشر على نية عنيفة. وقالت OpenAI إن المراهقين لا يزال بإمكانهم استخدام ChatGPT للمساعدة على الوقاية من العنف واحتوائه، وطلب الدعم، والتواصل مع شخص بالغ موثوق به.

قالت OpenAI إنها عززت نظامها للتنبؤ بالعمر، الذي يحلل مؤشرات مثل أنماط السلوك لتقدير ما إذا كان عمر المستخدم أقل من 18 عامًا أم أكثر، كي يقيّم باستمرار المؤشرات الجديدة أثناء استخدام الأشخاص لـChatGPT، وينقل المستخدمين إلى تجربة الفئة دون 18 عامًا عند الاقتضاء. ويمكن للمستخدمين الذين أُدرجوا خطأً في تجربة الفئة دون 18 عامًا تأكيد أنهم بالغون من خلال Persona، الشريك الذي تستعين به OpenAI للتحقق من العمر، وإزالة إجراءات الحماية الإضافية المخصصة للمراهقين عن حساباتهم.

تتضمن الحسابات المرتبطة بحسابات الوالدين أدوات رقابة تتضمن تنبيهات سلامة قد تُرسل عندما يتعرف المراجعون المدربون تدريبًا خاصًا إلى مخاوف جدية تتعلق بإيذاء النفس وسلوكيات قد ترتبط باضطرابات الأكل. وفي يوليو 2026، وسّعت OpenAI نطاق هذه التنبيهات لتُخطر الوالدين إذا عُطّل حساب أحد المراهقين لانتهاكه سياسات الاستخدام المتعلقة بالعنف، وقالت الشركة إنها تعمل على إطلاق إشعارات للوالدين إذا أوقفت حساب أحد المراهقين مؤقتًا بسبب تكرار مناقشة العنف.

تستند هذه الإجراءات إلى ميزات السلامة للمراهقين التي طرحتها OpenAI في وقت سابق من عام 2026. وأطلقت الشركة ChatGPT للمراهقين في 18 أغسطس 2026، وأدرجت تلقائيًا المستخدمين الذين يُقدَّر أن أعمارهم أقل من 18 عامًا، أو الذين يذكرون أن أعمارهم تتراوح بين 13 و17 عامًا، ضمن تجربة تتضمن ضمانات افتراضية تستند إلى مبادئ من هم دون 18 عامًا الواردة في Model Spec الخاص بها. وبدأت OpenAI في 20 يناير 2026 طرح تقدير العمر على باقات ChatGPT المخصصة للمستهلكين، باستخدام مؤشرات سلوكية ومؤشرات على مستوى الحساب لتقدير ما إذا كان الحساب على الأرجح يعود لشخص دون 18 عامًا؛ وأشار تحديث صدر في 25 أغسطس 2026 إلى أن النظام بدأ طرحه في الاتحاد الأوروبي.

قالت OpenAI إن طرح وسائل الحماية المفصّلة في الإعلان سيبدأ خلال الأسابيع القليلة المقبلة، وإنها ستواصل تحسينها.