OpenAI, ChatGPT의 폭력 관련 안전장치 강화하고 청소년의 무기 정보 접근 제한

OpenAI는 ChatGPT의 폭력 예방 조치를 강화하고 공개 커뮤니티 안전 보고서를 발간하겠다고 발표했습니다. 아래 내용은 모두 OpenAI의 설명이며, 안전장치는 “앞으로 몇 주 안에” 적용되기 시작한다고 밝혔습니다.

• 전체 사용자: ChatGPT는 과거의 대규모 공격과 가해자에 관한 답변을, 해당 정보가 다른 곳에서 공개되어 있더라도 덜 상세하게 제공합니다. OpenAI는 사용된 무기와 장비, 입수 경로, 피해 규모에 대한 상세한 비교를 포함해 공격을 재구성하는 정보를 제한한다고 밝혔습니다. 이러한 제한은 사용자의 나이나 질문 이유와 관계없이 적용됩니다.
• 위험 신호: 최근 대화에서 폭력 가능성을 시사하는 징후가 보이면 ChatGPT는 악용될 수 있는 정보에 대해 더 보수적으로 응답합니다. OpenAI는 사용자가 18세 미만이라고 예측되는 경우에도 같은 강화된 제한을 적용하기 위해 노력하고 있습니다. 누군가를 심각하게 해치려는 집착이 대화에서 드러나면 ChatGPT가 대화를 자동으로 종료할 수 있으며, 이런 이유로 여러 대화가 종료되면 계정이 일시 정지될 수 있습니다.
• 청소년: 질문이 무해해 보이더라도 무기 관련 정보와 무기 및 보안 시스템에 관한 실용적인 정보에 추가 제한이 적용됩니다. OpenAI는 연령 예측 기능을 강화했으며, 18세 미만 사용자 경험으로 잘못 분류된 사용자는 Persona를 통해 성인임을 확인할 수 있다고 밝혔습니다. 청소년이 폭력에 관한 대화를 반복해 계정이 일시 정지되면 부모에게 알리는 기능도 개발 중입니다.
• 보고: OpenAI는 2026년 3분기에 법 집행 기관에 200건이 넘는 신고를 했다고 밝혔습니다. 2026년 하반기를 다루는 첫 커뮤니티 안전 보고서를 2027년 초에 발간하고, 이후 6개월마다 발간할 계획입니다.