OpenAI ужесточает меры защиты от насилия в ChatGPT и ограничивает доступ подростков к информации об оружии

OpenAI объявила об усилении мер по предотвращению насилия в ChatGPT и о намерении публиковать открытый отчет о безопасности сообщества. Всё ниже — версия OpenAI; компания сообщает, что меры начнут внедрять «в ближайшие несколько недель».

• Все пользователи: ChatGPT будет давать менее подробные ответы о массовых нападениях в прошлом и их участниках, даже если эта информация доступна в других источниках. OpenAI сообщает, что ограничивает реконструкции нападений, в том числе сведения об использованном оружии и снаряжении, а также о том, как их получили, и подробные сравнения масштабов причиненного вреда. Эти ограничения действуют независимо от возраста и причины запроса.
• Тревожные признаки: если в недавних чатах заметны признаки возможного насилия, ChatGPT будет осторожнее предоставлять информацию, которую можно использовать во вред; OpenAI также работает над тем, чтобы применять такие же более строгие ограничения, когда система предполагает, что пользователю меньше 18 лет. Если в разговоре заметна зацикленность на намерении серьезно навредить кому-либо, ChatGPT сможет автоматически завершить чат; если по этой причине будут завершены несколько чатов, аккаунт могут временно приостановить.
• Подростки: дополнительные ограничения на информацию об оружии и практические сведения об оружии и системах безопасности, даже если вопрос кажется безобидным. OpenAI сообщает, что улучшила определение возраста и что пользователи, которых ошибочно отнесли к категории младше 18 лет, могут подтвердить совершеннолетие через Persona. Компания работает над уведомлениями для родителей, если аккаунт подростка приостановят из-за неоднократных обсуждений насилия.
• Отчетность: OpenAI сообщает, что в Q3 2026 передала правоохранительным органам более 200 обращений. Компания планирует опубликовать первый отчет о безопасности сообщества в начале 2027 года — он охватит вторую половину 2026 года; далее отчеты будут выходить каждые шесть месяцев.