OpenAI 強化 ChatGPT 的暴力防範措施，並限制青少年取得武器資訊

OpenAI 宣布在 ChatGPT 中加強暴力防範措施，並承諾發布公開的 Community Safety Report。以下內容皆為 OpenAI 的說法；該公司表示，這些防護措施將「在未來幾週內」開始推出。

• 所有使用者：即使相關資訊在其他地方也能取得，ChatGPT 對過往大規模攻擊事件及其犯案者的回答仍會減少細節。OpenAI 表示，將限制重現攻擊過程的內容，包括所用武器與裝備及其取得方式，也會限制對傷害規模的詳細比較。無論使用者年齡或提問原因為何，這些限制都適用。
• 警訊：如果近期對話顯示可能發生暴力行為的跡象，ChatGPT 對可能遭到濫用的資訊會採取更保守的回應；OpenAI 也正致力於在預測使用者未滿 18 歲時套用同樣嚴格的限制。如果對話顯示使用者執著於嚴重傷害他人，ChatGPT 將可自動結束對話；若因此結束多次對話，該帳戶可能會暫時停用。
• 青少年：進一步限制武器相關資訊，以及武器和安全系統的實用資訊，即使提問看似無害也不例外。OpenAI 表示，已強化年齡預測功能；被誤判為未滿 18 歲體驗的使用者，可透過 Persona 確認自己已成年。該公司也正著手在青少年帳戶因反覆討論暴力而遭暫停時通知家長。
• 通報：OpenAI 表示，2026 年 Q3 向執法機關通報超過 200 件案件。該公司計劃於 2027 年初發布首份 Community Safety Report，涵蓋 2026 年下半年，之後每六個月發布一次。