OpenAI、ChatGPTの暴力防止策を強化し、10代向けの武器情報を制限

OpenAIは、ChatGPTの暴力防止策を強化し、公開のCommunity Safety Reportを発行する方針を発表しました。以下はすべてOpenAIの説明であり、同社によると、安全策は「今後数週間以内」に順次導入されます。

• 全ユーザー： ChatGPTは、過去の大量襲撃事件やその加害者について、情報がほかの場所で入手できる場合でも、詳細を抑えた回答をするようになります。OpenAIによると、襲撃の再現につながる情報（使用された武器や装備、入手方法など）や、被害の規模に関する詳細な比較を制限します。質問者の年齢や質問の理由にかかわらず、これらの制限が適用されます。
• 危険の兆候： 最近のチャットに暴力の可能性を示す兆候が見られる場合、ChatGPTは悪用されるおそれのある情報について、より慎重に応答します。またOpenAIは、ユーザーが18歳未満だと予測した場合にも、同じ厳格な制限を適用できるよう取り組んでいます。会話から誰かに深刻な危害を加えることへの執着が見られる場合、ChatGPTはチャットを自動的に終了できるようになります。その理由で複数のチャットが終了された場合、アカウントが一時的に停止されることがあります。
• 10代： 質問が無害に見える場合でも、武器に関する情報や、武器・セキュリティシステムの実用的な情報をさらに制限します。OpenAIは年齢予測機能を強化したと説明しており、誤って18歳未満向けの利用環境に振り分けられたユーザーは、Personaを通じて成人であることを確認できます。10代のアカウントが暴力について繰り返し話したことで一時停止された際、保護者に通知する仕組みの導入にも取り組んでいます。
• 報告： OpenAIによると、2026年第3四半期に法執行機関への紹介を200件以上行いました。2026年下半期を対象とする初のCommunity Safety Reportを2027年初頭に公開し、その後は6カ月ごとに発行する予定です。