AI Trackerİndir
← Tüm haberler
OpenAIÜrünler

OpenAI, incelenmiş kuruluşlara CSAM görsel sınıflandırıcısı sunuyor ve ChatGPT uyarıları ekliyor

OpenAI, yapay zekâ tarafından oluşturulan içerikler de dahil olmak üzere olası çocuk cinsel istismarı materyallerini (CSAM) tespit eden ve incelemecilerin öncelik belirlemesine yardımcı olmak için puanlar döndüren bir görsel sınıflandırıcısı kullanıma sunduğunu söylüyor. Sınıflandırıcı, National Center for Missing and Exploited Children (NCMEC) desteğiyle geliştirildi. İncelenmiş kuruluşlar, OpenAI API üzerinden ücretsiz erişim talep edebilir; OpenAI, aracı paylaşmak için Tech Coalition ve ROOST ile çalıştı. API'de model, /v1/moderations uç noktasında omni-moderation-csam-latest; olası CSAM ve yapay zekâ tarafından oluşturulmuş olası CSAM için ayrı sinyaller sunuyor. OpenAI, materyalin yapay zekâ tarafından oluşturulmuş olma ihtimaline ilişkin özel bir sinyale sahip, geniş çapta erişilebilir ilk CSAM sınıflandırıcısı olduğunu belirtiyor ve bir model kartı yayımladı.

OpenAI'nin kullanıcıların yüklediği görsellerle yaptığı kendi değerlendirmesinde, sınıflandırıcı mevcut aracına kıyasla %48 daha az görseli işaretlerken yaklaşık aynı sayıda istismar içeren görseli bulacaktı; işaretlenen görsellerin istismar içermesi yaklaşık iki kat daha olasıydı. İlk iş ortakları kendi sonuçlarını paylaşıyor: fal, yüksek güven düzeyinde işaretlenen içeriklerin %72'sinin incelemecilerce yeni CSAM olarak doğrulandığını; invideo AI, işaretlenen vakaların dörtte birinin yasaklamayla sonuçlandığını; SafetyKit ise çizim veya animasyon içeren vakaların %90'ını tespit ettiğini söylüyor.

Duyurunun diğer başlıkları:

  • ChatGPT uyarıları: İstismar içerikli materyal bulma girişimleri artık kişileri yardım kaynaklarına yönlendiren bir uyarıyı tetikliyor. OpenAI, işaretlenen konuşmayı kaldırdığını ve ChatGPT erişimini 24 saatliğine duraklattığını; tekrarlanan ihlallerde daha uzun kısıtlamalar, hesabın kapatılması veya yetkililere bildirim söz konusu olabileceğini söylüyor.
  • Geliştirici rehberi: OpenAI; önleme, tespit ve bildirim konularında geliştiricilere yönelik CSAM rehberi yayımladı. Ayrıca Anthropic ve Google ile birlikte, AI sistemlerinde istismar ifşalarına nasıl yanıt verileceğine ilişkin Tech Coalition rehberinin hazırlanmasını sağladığını belirtiyor.
  • Kolluk kuvvetleri: Çocuk güvenliğine yönelik soruşturma birimleri yeni araçlar ve eğitim alıyor. İlk araç, soruşturmacıların sohbet kayıtlarını ve yasal süreçlerden dönen yanıtları incelemesine, bağlantıları bulmasına ve zaman çizelgeleri oluşturmasına yardımcı oluyor; erişimi program yöneticileri yönetiyor.

Bu tür haberleri bildirim olarak alın.

Kullandığınız araçlarda bir şey değiştiğinde AI Tracker sizi uyarır.

Uygulamayı indir