OpenAI renforce les garde-fous de ChatGPT contre la violence et limite les informations sur les armes pour les adolescents

OpenAI a annoncé des mesures renforcées de prévention de la violence dans ChatGPT et s’est engagé à publier un rapport public sur la sécurité de la communauté. Tout ce qui suit correspond aux déclarations d’OpenAI ; l’entreprise indique que les garde-fous commenceront à être déployés « dans les prochaines semaines ».

• Tous les utilisateurs : ChatGPT fournira des réponses moins détaillées sur les attaques de masse passées et leurs auteurs, même lorsque ces informations sont disponibles ailleurs. OpenAI indique restreindre les reconstitutions d’attaques, notamment les armes et le matériel utilisés et la façon dont ils ont été obtenus, ainsi que les comparaisons détaillées de l’ampleur des dégâts. Ces limites s’appliquent quel que soit l’âge ou le motif de la demande.
• Signes avant-coureurs : lorsque des conversations récentes présentent des signes de risque de violence, ChatGPT répondra avec davantage de prudence aux demandes d’informations susceptibles d’être détournées, et OpenAI s’efforce d’appliquer les mêmes limites renforcées lorsqu’il estime qu’un utilisateur a moins de 18 ans. Si une conversation révèle une obsession à l’idée de faire gravement du mal à quelqu’un, ChatGPT pourra y mettre fin automatiquement ; s’il met fin à plusieurs conversations pour cette raison, le compte pourra être temporairement suspendu.
• Adolescents : des limites supplémentaires concernant les informations sur les armes et les renseignements pratiques sur les armes et les systèmes de sécurité, même lorsqu’une question semble inoffensive. OpenAI indique avoir renforcé son système d’estimation de l’âge et précise que les utilisateurs classés à tort dans l’expérience réservée aux moins de 18 ans peuvent confirmer qu’ils sont adultes via Persona. L’entreprise travaille à la mise en place de notifications aux parents lorsqu’un compte d’adolescent est suspendu pour des discussions répétées sur la violence.
• Signalements : OpenAI indique avoir transmis plus de 200 signalements aux forces de l’ordre au T3 2026. L’entreprise prévoit de publier son premier rapport sur la sécurité de la communauté début 2027, portant sur le second semestre 2026, puis d’en publier un tous les six mois.