OpenAI宣布推出社区安全报告并收紧青少年武器相关限制

OpenAI于2026年10月30日宣布将发布一份关于暴力预防的《社区安全报告》，并每六个月更新一次；同时推出新的保护措施，限制向青少年提供武器相关信息，并收紧ChatGPT对过去大规模袭击事件相关问题的处理方式。该公司表示，2026年第三季度已向执法部门转介了200多起事件。

社区安全报告计划于2027年初推出

OpenAI承诺将推出《社区安全报告》，涵盖暴力预防及其他社区安全问题，并评估其安全措施的有效性。该公司表示，报告将说明其如何训练系统检测、调查并应对社区安全问题，分享暴力相关伤害表现形式的匿名案例，介绍新的风险缓解措施和政策变更，并提供相关数据。首份报告计划于2027年初发布，内容将涵盖2026年下半年；此后每六个月更新一次。

OpenAI表示，这份报告旨在让公众清楚了解其模型如何识别并应对有害行为、实际面临哪些风险，以及采取了哪些措施来处理这些风险。

OpenAI表示，其安全工作包括将迫在眉睫的暴力威胁告知执法部门，而这些转介有助于瓦解暴力阴谋，产生了积极影响。该公司称，仍会依靠心理健康和行为专家评估棘手个案，并指出，人工智能公司与执法部门、家庭成员、心理健康专业人士和政策制定者一道，各自发挥着独特作用。

进一步收紧对大规模袭击内容的限制

OpenAI表示，其模型经过训练，不会提供有助于他人策划或实施暴力的指示。该公司正进一步限制ChatGPT对过去大规模袭击事件及实施袭击者相关问题的回答方式，要求模型提供较少细节，即使其他在线来源能够查到相关信息也是如此。收紧后的政策限制对过去大规模袭击事件进行细节还原，包括所用武器和装备的详情及其获取方式；也限制详细比较袭击造成的伤害规模。OpenAI表示，这类比较可能会助长袭击者的恶名。无论用户年龄多大，也无论提问原因是什么，这些限制一律适用。

用户仍可请ChatGPT帮助理解这些事件、受害者和社区受到的影响，以及如何识别预警信号并预防未来发生暴力事件。

2026年5月，该公司曾介绍ChatGPT如何利用对早期预警信号的简短、客观总结，在后续聊天中作出更谨慎的回应。OpenAI表示，正在以此为基础继续推进相关工作：如果近期聊天内容显示出可能发生暴力的预警信号，ChatGPT在提供可能遭到滥用的信息时会采取更谨慎的回应方式；该公司还在努力将这些更严格的限制应用于系统预测为未满18岁的人，即使其聊天内容没有显示出暴力意图的迹象。

OpenAI会封禁其认定违反暴力活动相关政策的账户。该公司表示，正在与心理健康和暴力预防专家合作，探索更多自动化方式，以便更早介入：如果对话显示某人执着于暴力，或执着于严重伤害他人的想法，ChatGPT将能够自动结束聊天；如果ChatGPT因这一原因多次结束聊天，OpenAI可能会暂时暂停该账户。

为未满18岁的用户增设安全措施

ChatGPT for Teens会为未满18岁的用户提供适龄安全措施；OpenAI还将进一步限制青少年能够获取的武器相关信息，即使问题看起来无害也不例外。该公司的政策已禁止协助任何人策划或实施暴力，并限制协助青少年寻找或获取武器；此次扩展措施还将限制有关武器和安保系统的实用信息，以防这些信息遭到滥用、被用于助长暴力，即使没有暴力意图的迹象也是如此。OpenAI表示，青少年仍可使用ChatGPT帮助预防和缓和暴力、寻求支持，并联系值得信赖的成年人。

OpenAI表示，已强化年龄预测系统。该系统会分析行为模式等信号，估计用户是否未满或已满18岁；随着人们使用ChatGPT，系统会持续评估新的信号，并在适当情况下将用户转入未满18岁用户体验。被错误归入未满18岁用户体验的用户，可通过OpenAI的年龄验证合作伙伴Persona确认自己已成年，并解除额外的青少年保护措施。

与家长控制功能关联的账户包含安全提醒：经过专门培训的审核人员发现严重的自残风险，或发现可能与饮食失调有关的行为时，系统可能会发送提醒。2026年7月，OpenAI扩大了这类提醒的适用范围：如果青少年的账户因违反暴力相关使用政策而被停用，家长将收到通知。该公司还表示，正在考虑推出相关通知；如果青少年因反复讨论暴力而导致账户被暂停，家长将收到通知。

这些措施是在 OpenAI 于 2026 年早些时候推出的青少年安全功能基础上进一步扩展的。该公司于 2026 年 8 月 18 日推出了面向青少年的 ChatGPT，并自动将系统估计年龄未满 18 岁，或自述年龄在 13 至 17 岁之间的用户，纳入默认启用安全防护的使用体验；这些防护措施基于其《Model Spec》中的“未满 18 岁原则”。2026 年 1 月 20 日，OpenAI 开始在 ChatGPT 消费者套餐中逐步推出年龄预测功能，利用行为信号和账户层面的信号，估计账户是否可能属于未满 18 岁的人；2026 年 8 月 25 日的一次更新指出，该系统已开始在欧盟逐步推出。

OpenAI 表示，公告中详细介绍的安全防护措施将在未来几周内开始逐步推出，并且该公司将继续完善这些措施。