OpenAI reforça as proteções contra violência no ChatGPT e limita informações sobre armas para adolescentes

A OpenAI anunciou medidas mais rigorosas de prevenção à violência no ChatGPT e o compromisso de publicar um Relatório de Segurança da Comunidade. Tudo abaixo é um relato da própria OpenAI; segundo a empresa, as proteções começarão a ser implementadas "nas próximas semanas".

• Todos os usuários: o ChatGPT dará respostas menos detalhadas sobre ataques em massa ocorridos no passado e seus autores, mesmo quando as informações estiverem disponíveis em outros lugares. A OpenAI diz que está restringindo reconstruções de ataques, incluindo as armas e os equipamentos usados e como foram obtidos, além de comparações detalhadas da dimensão dos danos. Esses limites se aplicam independentemente da idade ou do motivo da pergunta.
• Sinais de alerta: quando conversas recentes indicarem possível violência, o ChatGPT será mais cauteloso ao fornecer informações que possam ser usadas indevidamente, e a OpenAI está trabalhando para aplicar os mesmos limites mais rigorosos quando o sistema prever que o usuário tem menos de 18 anos. Quando uma conversa indicar fixação em ferir gravemente alguém, o ChatGPT poderá encerrá-la automaticamente; se encerrar várias conversas por esse motivo, a conta poderá ser pausada temporariamente.
• Adolescentes: haverá limites adicionais para informações relacionadas a armas e informações práticas sobre armas e sistemas de segurança, mesmo quando uma pergunta parecer inofensiva. A OpenAI diz que aprimorou sua previsão de idade e que usuários classificados incorretamente na experiência para menores de 18 anos podem confirmar que são adultos por meio da Persona. A empresa está trabalhando em notificações aos pais quando a conta de um adolescente for pausada por falar repetidamente sobre violência.
• Relatórios: a OpenAI diz que fez mais de 200 encaminhamentos às autoridades policiais no 3º trimestre de 2026. A empresa planeja publicar seu primeiro Relatório de Segurança da Comunidade no início de 2027, cobrindo o segundo semestre de 2026, e depois publicá-lo a cada seis meses.