OpenAI anuncia un informe de seguridad comunitaria y nuevas restricciones sobre armas para adolescentes

El 30 de octubre de 2026, OpenAI anunció un informe de seguridad comunitaria sobre la prevención de la violencia, que actualizará cada seis meses, junto con nuevas protecciones que restringen la información relacionada con armas que reciben los adolescentes y endurecen la forma en que ChatGPT responde a preguntas sobre ataques masivos ocurridos en el pasado. La empresa afirmó que hizo más de 200 remisiones a las fuerzas del orden en el tercer trimestre de 2026.

El informe de seguridad comunitaria está previsto para principios de 2027

OpenAI se comprometió a publicar el informe de seguridad comunitaria, que abarcará la prevención de la violencia y otros asuntos de seguridad comunitaria, así como la eficacia de sus medidas de protección. La empresa indicó que el informe explicará cómo entrena sus sistemas para detectar, investigar y responder a problemas de seguridad comunitaria; compartirá ejemplos anonimizados de cómo se manifiestan los daños relacionados con la violencia; destacará nuevas medidas de mitigación y cambios en las políticas; e incluirá datos de respaldo. El primer informe está previsto para principios de 2027 y abarcará el segundo semestre de 2026; después, se actualizará cada seis meses.

OpenAI señaló que el informe busca ofrecer al público una imagen clara de cómo sus modelos identifican y responden a conductas perjudiciales, de los riesgos que detecta en la práctica y de las medidas que toma para abordarlos.

OpenAI afirmó que su labor de seguridad incluye alertar a las fuerzas del orden sobre amenazas inminentes de violencia y que estas remisiones están teniendo un efecto positivo en la desarticulación de planes violentos. La empresa indicó que sigue recurriendo a especialistas en salud mental y conducta para evaluar casos complejos, y describió que las empresas de IA tienen un papel específico que desempeñar junto con las fuerzas del orden, los familiares, los profesionales de la salud mental y los responsables de formular políticas.

Restricciones más estrictas sobre el contenido relacionado con ataques masivos

OpenAI afirmó que sus modelos se entrenan para no dar instrucciones que ayuden a alguien a planear o llevar a cabo actos de violencia. La empresa está imponiendo restricciones adicionales a la forma en que ChatGPT responde a preguntas sobre ataques masivos ocurridos en el pasado y sobre quienes los perpetraron, e indica al modelo que ofrezca información menos detallada, incluso cuando esta esté disponible en otras fuentes en línea. Las políticas más estrictas limitan las reconstrucciones de ataques masivos pasados, incluidos los detalles sobre las armas y el equipo utilizados y sobre cómo se obtuvieron, así como las comparaciones detalladas sobre la magnitud de los daños que, según OpenAI, podrían amplificar la notoriedad de un atacante. Las restricciones se aplican independientemente de la edad de quien pregunta o del motivo de su consulta.

Aun así, las personas pueden pedirle a ChatGPT que les ayude a entender estos sucesos, cómo afectaron a las víctimas y a las comunidades, y cómo reconocer señales de alerta y prevenir futuros actos de violencia.

En mayo de 2026, la empresa explicó cómo ChatGPT puede utilizar resúmenes breves y objetivos de señales de alerta anteriores para responder con más cautela en una conversación posterior. OpenAI afirmó que está ampliando ese trabajo para que, cuando las conversaciones recientes muestren señales de alerta de posible violencia, ChatGPT responda con mayor cautela al compartir información que podría utilizarse indebidamente. También está trabajando para aplicar esas restricciones más estrictas cuando prediga que alguien es menor de 18 años, incluso si sus conversaciones no muestran señales de intención violenta.

OpenAI suspende las cuentas que determina que han infringido sus políticas sobre actividades violentas. La empresa afirmó que está colaborando con especialistas en salud mental y prevención de la violencia para desarrollar otras formas automatizadas de intervenir antes: cuando una conversación muestre señales de que alguien está obsesionado con la violencia o con la idea de hacer daño grave a otra persona, ChatGPT podrá finalizarla automáticamente. Si ChatGPT finaliza varias conversaciones por ese motivo, OpenAI podrá suspender temporalmente la cuenta.

Nuevas medidas de protección para menores de 18 años

ChatGPT for Teens aplica medidas de protección adecuadas a la edad para los usuarios menores de 18 años, y OpenAI está imponiendo más restricciones a la información sobre armas que reciben los adolescentes, incluso cuando una pregunta parece inofensiva. Las políticas de la empresa ya prohíben ayudar a cualquier persona a planear o llevar a cabo actos de violencia, y restringen la ayuda a adolescentes para encontrar u obtener armas; la ampliación de estas políticas restringe la información práctica sobre armas y sistemas de seguridad que podría utilizarse indebidamente para facilitar actos de violencia, incluso si no hay señales de intención violenta. OpenAI afirmó que los adolescentes aún pueden usar ChatGPT para ayudar a prevenir y desescalar la violencia, buscar apoyo y ponerse en contacto con un adulto de confianza.

OpenAI afirmó que ha reforzado su sistema de predicción de edad, que analiza señales como los patrones de comportamiento para estimar si un usuario podría ser menor o mayor de 18 años, de modo que evalúe continuamente nuevas señales a medida que las personas usan ChatGPT y traslade a los usuarios a la experiencia para menores de 18 años cuando corresponda. Los usuarios que sean asignados por error a esa experiencia pueden confirmar que son adultos a través de Persona, el socio de OpenAI para la verificación de edad, y lograr que se eliminen las protecciones adicionales para adolescentes.

Las cuentas vinculadas al control parental incluyen alertas de seguridad que pueden enviarse cuando revisores con formación específica detectan un riesgo grave de autolesión y conductas que podrían estar asociadas con trastornos alimentarios. En julio de 2026, OpenAI amplió esas alertas para avisar a los padres si la cuenta de un adolescente se ha desactivado por infringir las políticas de uso de la empresa sobre violencia. La empresa afirmó que está trabajando para incorporar notificaciones a los padres si suspende la cuenta de un adolescente por hablar repetidamente de violencia.

Estas medidas se basan en las funciones de seguridad para adolescentes que OpenAI presentó a principios de 2026. La empresa lanzó ChatGPT para adolescentes el 18 de agosto de 2026 y empezó a incluir automáticamente en una experiencia con medidas de protección predeterminadas basadas en los Principios para menores de 18 años de su Model Spec a los usuarios que, según las estimaciones, tienen menos de 18 años o que indican tener entre 13 y 17 años. OpenAI comenzó a implementar la predicción de edad en los planes de consumo de ChatGPT el 20 de enero de 2026. Para estimar si es probable que una cuenta pertenezca a una persona menor de 18 años, utiliza señales de comportamiento y de la cuenta; en una actualización del 25 de agosto de 2026, la empresa señaló que el sistema había comenzado a implementarse en la UE.

OpenAI afirmó que las medidas de protección detalladas en el anuncio comenzarán a implementarse en las próximas semanas y que seguirá perfeccionándolas.