OpenAI, ChatGPT’nin şiddete yönelik güvenlik önlemlerini sıkılaştırıyor ve gençlere yönelik silah bilgilerini kısıtlıyor

OpenAI, ChatGPT’de şiddeti önlemeye yönelik daha güçlü önlemler aldığını ve kamuya açık bir Topluluk Güvenliği Raporu yayımlama taahhüdünde bulunduğunu duyurdu. Aşağıdaki bilgilerin tamamı OpenAI’nin açıklamasına dayanıyor; şirket, önlemlerin "önümüzdeki birkaç hafta içinde" kullanıma sunulmaya başlayacağını söylüyor.

• Tüm kullanıcılar: ChatGPT, bilgiler başka yerlerde mevcut olsa bile geçmişteki kitlesel saldırılar ve saldırıları gerçekleştiren kişiler hakkında daha az ayrıntılı yanıtlar verecek. OpenAI, kullanılan silah ve ekipmanlar ile bunların nasıl temin edildiği de dahil olmak üzere saldırıların yeniden kurgulanmasını ve zararın boyutuna ilişkin ayrıntılı karşılaştırmaları kısıtladığını söylüyor. Bu kısıtlamalar, kullanıcının yaşından veya soru sorma nedeninden bağımsız olarak geçerli.
• Uyarı işaretleri: Yakın tarihli sohbetlerde olası şiddet belirtileri görüldüğünde ChatGPT, kötüye kullanılabilecek bilgiler konusunda daha temkinli yanıt verecek. OpenAI, kullanıcının 18 yaşından küçük olduğunu tahmin ettiğinde aynı daha sıkı kısıtlamaları uygulamak için çalışıyor. Bir sohbet, birine ciddi zarar verme düşüncesine saplanıldığını gösteriyorsa ChatGPT sohbeti otomatik olarak sonlandırabilecek; bu nedenle birden fazla sohbet sonlandırılırsa hesap geçici olarak askıya alınabilir.
• Gençler: Zararsız görünen sorular da dahil olmak üzere, silahlarla ilgili bilgiler ve silahlar ile güvenlik sistemlerine dair pratik bilgiler daha fazla kısıtlanacak. OpenAI, yaş tahmin sistemini güçlendirdiğini ve yanlışlıkla 18 yaş altı deneyimine alınan kullanıcıların Persona üzerinden yetişkin olduklarını doğrulayabileceklerini söylüyor. Bir gencin hesabı şiddeti tekrar tekrar konuştuğu için askıya alındığında ebeveynlere bildirim gönderilmesi üzerinde çalışıyor.
• Bildirimler: OpenAI, 2026’nın 3. çeyreğinde kolluk kuvvetlerine 200’den fazla bildirimde bulunduğunu söylüyor. Şirket, ilk Topluluk Güvenliği Raporu’nu 2027’nin başlarında yayımlamayı planlıyor. Rapor, 2026’nın ikinci yarısını kapsayacak ve ardından altı ayda bir yayımlanacak.