OpenAI 收紧 ChatGPT 的暴力防护措施，并限制向青少年提供武器信息

OpenAI 宣布在 ChatGPT 中加强预防暴力的措施，并承诺发布公开的《社区安全报告》。以下内容均为 OpenAI 的说法；该公司表示，防护措施将“在未来几周内”开始推出。

• 所有用户： 即使相关信息可在其他地方找到，ChatGPT 对过去大规模袭击事件及其实施者的回答也将减少细节。OpenAI 表示，将限制对袭击事件的还原，包括所用武器和装备、获取方式，以及对伤害规模的详细比较。这些限制不受年龄或提问原因影响。
• 危险信号： 如果近期聊天显示出可能实施暴力的迹象，ChatGPT 将更谨慎地提供可能被滥用的信息；OpenAI 正致力于在系统预测用户未满 18 岁时，也采取同样严格的限制。如果对话显示用户执着于严重伤害他人，ChatGPT 将能够自动结束聊天；如果因此结束多次聊天，该账号可能会被暂时暂停。
• 青少年： 进一步限制与武器相关的信息，以及武器和安保系统的实用信息，即使问题看起来无害也不例外。OpenAI 表示已加强年龄预测功能；被错误纳入未满 18 岁体验的用户，可以通过 Persona 确认自己已成年。该公司正致力于在青少年账号因反复讨论暴力而被暂停时通知家长。
• 报告： OpenAI 表示，2026 年第三季度向执法部门转介了 200 多起事件。公司计划于 2027 年初发布首份《社区安全报告》，涵盖 2026 年下半年，此后每六个月发布一次。