OpenAI anuncia relatório sobre segurança da comunidade e novas restrições a armas para adolescentes

Em 30 de outubro de 2026, a OpenAI anunciou um Relatório de Segurança da Comunidade sobre prevenção da violência, que será atualizado a cada seis meses, além de novas proteções que restringem informações relacionadas a armas para adolescentes e tornam mais rigorosa a maneira como o ChatGPT responde a perguntas sobre ataques em massa ocorridos no passado. A empresa informou que fez mais de 200 encaminhamentos às autoridades policiais no terceiro trimestre de 2026.

Relatório de Segurança da Comunidade previsto para o início de 2027

A OpenAI se comprometeu a lançar o Relatório de Segurança da Comunidade, que abordará a prevenção da violência e outras questões relacionadas à segurança da comunidade, além da eficácia de suas salvaguardas. A empresa afirmou que o relatório explicará como treina seus sistemas para detectar, investigar e responder a questões de segurança da comunidade; compartilhará exemplos anonimizados de como os danos relacionados à violência se manifestam; destacará novas medidas de mitigação e mudanças nas políticas; e incluirá dados de apoio. O primeiro relatório está previsto para o início de 2027 e abrangerá o segundo semestre de 2026, com atualizações a cada seis meses depois disso.

A OpenAI afirmou que o relatório pretende dar às pessoas uma visão clara de como seus modelos identificam e respondem a comportamentos nocivos, dos riscos que observa na prática e das medidas que toma para enfrentá-los.

A OpenAI afirmou que seu trabalho de segurança inclui alertar as autoridades policiais sobre ameaças iminentes de violência e que esses encaminhamentos estão contribuindo para interromper planos de ataques violentos. A empresa disse que continua recorrendo a especialistas em saúde mental e comportamento para avaliar casos difíceis e descreveu as empresas de IA como tendo um papel próprio a desempenhar, ao lado das autoridades policiais, dos familiares, dos profissionais de saúde mental e dos formuladores de políticas públicas.

Restrições mais rigorosas a conteúdo sobre ataques em massa

A OpenAI afirmou que seus modelos são treinados para não fornecer instruções que ajudem alguém a planejar ou cometer atos de violência. A empresa está impondo restrições adicionais à maneira como o ChatGPT responde a perguntas sobre ataques em massa ocorridos no passado e sobre as pessoas que os cometeram, orientando o modelo a fornecer informações menos detalhadas, mesmo quando elas estão disponíveis em outras fontes on-line. As políticas mais rigorosas restringem reconstituições de ataques em massa ocorridos no passado, incluindo detalhes sobre as armas e os equipamentos usados e sobre como foram obtidos, bem como comparações detalhadas sobre a dimensão dos danos, que, segundo a OpenAI, poderiam ampliar a notoriedade do autor do ataque. As restrições se aplicam independentemente da idade do usuário ou do motivo da pergunta.

As pessoas ainda podem pedir ao ChatGPT ajuda para entender esses acontecimentos, como as vítimas e as comunidades foram afetadas e como reconhecer sinais de alerta e prevenir futuras violências.

Em maio de 2026, a empresa explicou como o ChatGPT pode usar resumos breves e factuais de sinais de alerta anteriores para responder com mais cautela em uma conversa posterior. A OpenAI afirmou que está desenvolvendo esse trabalho para que, quando conversas recentes apresentarem sinais de alerta de possível violência, o ChatGPT responda de forma mais cautelosa ao compartilhar informações que poderiam ser usadas indevidamente. A empresa também está trabalhando para aplicar essas restrições mais rigorosas quando o sistema prevê que alguém tem menos de 18 anos, mesmo que as conversas dessa pessoa não apresentem sinais de intenção violenta.

A OpenAI bane contas que, segundo sua avaliação, violaram suas políticas sobre atividades violentas. A empresa afirmou que está trabalhando com especialistas em saúde mental e prevenção da violência para desenvolver outras formas automatizadas de intervir mais cedo: quando uma conversa apresentar sinais de que alguém está obcecado por violência ou pela ideia de ferir gravemente outra pessoa, o ChatGPT poderá encerrar a conversa automaticamente; se o ChatGPT encerrar várias conversas pelo mesmo motivo, a OpenAI poderá suspender temporariamente a conta.

Salvaguardas adicionais para usuários menores de 18 anos

ChatGPT para adolescentes aplica salvaguardas adequadas à idade de usuários menores de 18 anos, e a OpenAI está impondo novas restrições às informações relacionadas a armas que os adolescentes podem receber, mesmo quando a pergunta parece inofensiva. As políticas da empresa já proíbem ajudar qualquer pessoa a planejar ou cometer atos de violência e restringem a ajuda a adolescentes para encontrar ou obter armas; a ampliação dessas políticas restringe informações práticas sobre armas e sistemas de segurança que poderiam ser usadas indevidamente para facilitar a violência, mesmo quando não há sinais de intenção violenta. A OpenAI afirmou que os adolescentes ainda podem usar o ChatGPT para ajudar a prevenir e conter a violência, buscar apoio e entrar em contato com um adulto de confiança.

A OpenAI afirmou que aprimorou seu sistema de previsão de idade, que analisa sinais como padrões de comportamento para estimar se um usuário tem menos ou mais de 18 anos, a fim de avaliar continuamente novos sinais à medida que as pessoas usam o ChatGPT e direcionar os usuários à experiência para menores de 18 anos quando apropriado. Usuários encaminhados por engano à experiência para menores de 18 anos podem confirmar que são adultos por meio da Persona, parceira da OpenAI na verificação de idade, e ter as proteções adicionais para adolescentes removidas.

As contas vinculadas ao controle parental incluem alertas de segurança que podem ser enviados quando avaliadores especialmente treinados identificam um risco grave de automutilação e comportamentos que podem estar associados a transtornos alimentares. Em julho de 2026, a OpenAI ampliou esses alertas para notificar os pais caso a conta de um adolescente tenha sido desativada por violar as políticas de uso da empresa sobre violência. A empresa afirmou que está trabalhando para introduzir notificações aos pais caso suspenda a conta de um adolescente por discutir violência repetidamente.

As medidas dão continuidade aos recursos de segurança para adolescentes que a OpenAI apresentou no início de 2026. Em 18 de agosto de 2026, a empresa lançou o ChatGPT para adolescentes, direcionando automaticamente os usuários considerados menores de 18 anos — ou que informam ter entre 13 e 17 anos — para uma experiência com proteções ativadas por padrão, baseadas nos Princípios para menores de 18 anos do Model Spec. Em 20 de janeiro de 2026, a OpenAI começou a implementar a previsão de idade nos planos de consumo do ChatGPT, usando sinais comportamentais e dados da conta para estimar se é provável que ela pertença a alguém menor de 18 anos; uma atualização de 25 de agosto de 2026 informa que o sistema começou a ser implementado na UE.

A OpenAI afirmou que as proteções detalhadas no anúncio começarão a ser implementadas nas próximas semanas e que continuará a aprimorá-las.