OpenAI siết chặt biện pháp bảo vệ ChatGPT trước nội dung bạo lực và hạn chế thông tin về vũ khí đối với thanh thiếu niên

OpenAI công bố các biện pháp ngăn chặn bạo lực mạnh hơn trong ChatGPT và cam kết phát hành Báo cáo An toàn Cộng đồng công khai. Toàn bộ thông tin dưới đây là theo OpenAI; công ty cho biết các biện pháp bảo vệ sẽ bắt đầu được triển khai “trong vài tuần tới”.

• Tất cả người dùng: ChatGPT sẽ đưa ra câu trả lời ít chi tiết hơn về các vụ tấn công hàng loạt trong quá khứ và thủ phạm, ngay cả khi thông tin đó có ở nơi khác. OpenAI cho biết họ đang hạn chế việc tái dựng các vụ tấn công, bao gồm vũ khí và thiết bị được sử dụng cũng như cách chúng được thu thập, cùng các so sánh chi tiết về mức độ thiệt hại. Những giới hạn này áp dụng bất kể độ tuổi hay lý do đặt câu hỏi.
• Dấu hiệu cảnh báo: khi các cuộc trò chuyện gần đây cho thấy nguy cơ bạo lực, ChatGPT sẽ phản hồi thận trọng hơn với những thông tin có thể bị lạm dụng, và OpenAI đang tìm cách áp dụng các giới hạn nghiêm ngặt tương tự khi dự đoán người dùng dưới 18 tuổi. Khi cuộc trò chuyện cho thấy người dùng ám ảnh với việc gây tổn hại nghiêm trọng cho ai đó, ChatGPT có thể tự động kết thúc cuộc trò chuyện; nếu vì lý do đó mà nhiều cuộc trò chuyện bị kết thúc, tài khoản có thể bị tạm khóa.
• Thanh thiếu niên: áp dụng thêm giới hạn đối với thông tin liên quan đến vũ khí và thông tin thực tiễn về vũ khí cũng như hệ thống an ninh, ngay cả khi câu hỏi có vẻ vô hại. OpenAI cho biết họ đã cải thiện khả năng dự đoán độ tuổi, và người dùng bị xếp nhầm vào trải nghiệm dành cho người dưới 18 tuổi có thể xác nhận mình là người trưởng thành thông qua Persona. Công ty đang xây dựng tính năng thông báo cho phụ huynh khi tài khoản của thiếu niên bị tạm khóa vì liên tục thảo luận về bạo lực.
• Báo cáo: OpenAI cho biết đã chuyển hơn 200 vụ việc cho cơ quan thực thi pháp luật trong Q3 2026. Công ty dự định phát hành Báo cáo An toàn Cộng đồng đầu tiên vào đầu năm 2027, bao quát nửa cuối năm 2026, sau đó phát hành sáu tháng một lần.