OpenAI memperketat perlindungan ChatGPT terhadap kekerasan dan membatasi informasi tentang senjata bagi remaja

OpenAI mengumumkan langkah-langkah yang lebih kuat untuk mencegah kekerasan di ChatGPT serta komitmen untuk menerbitkan Community Safety Report kepada publik. Semua informasi di bawah ini berasal dari OpenAI; perusahaan menyebut perlindungan tersebut mulai diluncurkan "dalam beberapa minggu ke depan".

• Semua pengguna: ChatGPT akan memberikan jawaban yang kurang terperinci tentang serangan massal di masa lalu dan para pelakunya, meskipun informasi tersebut tersedia di tempat lain. OpenAI menyatakan bahwa perusahaan membatasi rekonstruksi serangan, termasuk senjata dan peralatan yang digunakan serta cara memperolehnya, juga perbandingan terperinci tentang skala dampak. Batasan ini berlaku tanpa memandang usia atau alasan bertanya.
• Tanda peringatan: ketika percakapan terbaru menunjukkan tanda-tanda kemungkinan kekerasan, ChatGPT akan lebih berhati-hati saat memberikan informasi yang dapat disalahgunakan. OpenAI juga sedang berupaya menerapkan batasan yang sama ketatnya ketika sistem memperkirakan bahwa pengguna berusia di bawah 18 tahun. Jika percakapan menunjukkan obsesi untuk mencelakai seseorang secara serius, ChatGPT dapat mengakhiri obrolan secara otomatis; jika beberapa obrolan diakhiri karena alasan tersebut, akun mungkin akan dijeda sementara.
• Remaja: batasan tambahan untuk informasi terkait senjata dan informasi praktis tentang senjata serta sistem keamanan, bahkan ketika pertanyaannya tampak tidak berbahaya. OpenAI menyatakan telah meningkatkan kemampuan prediksi usianya, dan pengguna yang keliru dimasukkan ke pengalaman pengguna di bawah 18 tahun dapat mengonfirmasi bahwa mereka sudah dewasa melalui Persona. OpenAI sedang mengupayakan pemberitahuan kepada orang tua ketika akun remaja dijeda karena berulang kali membahas kekerasan.
• Pelaporan: OpenAI menyatakan telah merujuk lebih dari 200 kasus kepada penegak hukum pada Q3 2026. Perusahaan berencana menerbitkan Community Safety Report pertamanya pada awal 2027, yang mencakup paruh kedua 2026, lalu menerbitkannya setiap enam bulan.