OpenAI refuerza las medidas de seguridad de ChatGPT contra la violencia y limita la información sobre armas para adolescentes

OpenAI anunció medidas más estrictas para prevenir la violencia en ChatGPT y su compromiso de publicar un Informe de seguridad comunitaria. Todo lo que sigue es el relato de OpenAI; la empresa dice que las medidas de seguridad empezarán a implementarse «en las próximas semanas».

• Todos los usuarios: ChatGPT dará respuestas menos detalladas sobre ataques masivos ocurridos en el pasado y sus autores, incluso cuando la información esté disponible en otros lugares. OpenAI dice que está limitando las reconstrucciones de ataques, incluidas las armas y el equipo utilizados y cómo se obtuvieron, así como las comparaciones detalladas de la magnitud de los daños. Estos límites se aplican independientemente de la edad o del motivo de la consulta.
• Señales de alerta: cuando los chats recientes muestren indicios de posible violencia, ChatGPT responderá con más cautela a las solicitudes de información que podría utilizarse indebidamente, y OpenAI está trabajando para aplicar los mismos límites más estrictos cuando prediga que un usuario es menor de 18 años. Cuando una conversación muestre una fijación por hacer daño grave a alguien, ChatGPT podrá finalizarla automáticamente; si termina varios chats por ese motivo, la cuenta podría suspenderse temporalmente.
• Adolescentes: se impondrán más límites a la información relacionada con armas y a la información práctica sobre armas y sistemas de seguridad, incluso cuando una pregunta parezca inofensiva. OpenAI dice que ha mejorado su predicción de edad y que los usuarios clasificados erróneamente en la experiencia para menores de 18 años pueden confirmar que son adultos a través de Persona. La empresa está trabajando para notificar a los padres cuando se suspenda la cuenta de un adolescente por hablar repetidamente de violencia.
• Informes: OpenAI dice que hizo más de 200 derivaciones a las fuerzas del orden en el tercer trimestre de 2026. Planea publicar su primer Informe de seguridad comunitaria a principios de 2027, que abarcará la segunda mitad de 2026, y luego cada seis meses.