OpenAI anuncia novas restrições do ChatGPT sobre armas e violência

A OpenAI anunciou na sexta-feira (30) um conjunto de restrições para as respostas do ChatGPT sobre armas de fogo e violência. As medidas fazem parte de uma revisão dos procedimentos de segurança da empresa e incluem limites adicionais para adolescentes, mudanças na forma como o assistente trata ataques em massa e mecanismos para identificar conversas que possam indicar risco real de violência.

O ChatGPT é o assistente de inteligência artificial conversacional da empresa, usado por milhões de pessoas para tirar dúvidas, produzir textos e pesquisar assuntos diversos. Segundo a companhia, as alterações valem para todos os usuários, mas há proteções específicas para quem tem menos de 18 anos. Além de restringir certos conteúdos, a empresa diz que pretende aprimorar a análise do contexto das conversas e ampliar a comunicação de situações consideradas ameaçadoras às autoridades.

Como o ChatGPT vai tratar ataques em massa

Uma das mudanças prevê que o ChatGPT passe a dar respostas menos detalhadas sobre ataques em massa que já ocorreram e sobre os responsáveis por eles. De acordo com a OpenAI, a ideia é evitar que informações já públicas sejam reunidas de maneira a facilitar a repetição desses atos ou a dar mais notoriedade aos autores.

O sistema deverá limitar reconstruções minuciosas dos episódios, o que inclui dados sobre armas e equipamentos usados, a forma como foram obtidos e comparações sobre a dimensão dos danos. A empresa argumenta que esse tipo de material pode transformar os autores em figuras de destaque e servir de referência para imitações. Ainda assim, o tema não será barrado: continuará possível pedir explicações sobre o que aconteceu, os efeitos sobre vítimas e comunidades e os sinais que ajudam a reconhecer situações de risco.

O que muda na prática

Outra alteração diz respeito ao contexto. Uma pergunta que parece comum quando vista isoladamente pode ganhar outro sentido após mensagens anteriores com sinais de intenção violenta. Por isso, a OpenAI afirma que vai aperfeiçoar os mecanismos que consideram conversas recentes para decidir quando limitar informações que possam ser usadas para causar dano.

Se o sistema perceber que o usuário demonstra obsessão por violência ou pela ideia de ferir gravemente alguém, poderá encerrar a conversa automaticamente. Havendo vários encerramentos pelo mesmo motivo, a conta poderá ser suspensa temporariamente, conforme as regras divulgadas. Para menores de 18 anos, as restrições serão mais amplas, e o material indica que elas alcançam inclusive perguntas sobre armas que pareçam inofensivas. Os detalhes completos dessas regras para adolescentes não constam do trecho disponível da fonte.

Relatório e comunicações à polícia

A empresa também anunciou a criação de um Relatório de Segurança da Comunidade, que deve reunir informações sobre a identificação de ameaças, os procedimentos adotados diante de comportamentos preocupantes e a eficácia das medidas de prevenção. A primeira edição está prevista para o início de 2027 e trará dados do segundo semestre de 2026.

A OpenAI informou ainda ter feito mais de 200 comunicações a autoridades policiais no terceiro trimestre de 2026, em casos avaliados como ameaças potencialmente graves. Para analisar situações complexas, afirma contar com especialistas em saúde mental e comportamento, além de considerar a atuação de familiares e de órgãos públicos. Não foram informados, nas fontes, os critérios exatos para o encaminhamento de casos às autoridades nem a data em que cada restrição passa a valer.