AI Trackerİndir
← Tüm haberler
OpenAIModeller

OpenAI, öncü modelleri eğitimden dağıtıma kadar nasıl sınırlandırdığını, test ettiğini ve izlediğini anlatıyor

18 Kasım tarihli bir güvenlik yazısında OpenAI, bir modelin yaşam döngüsünün her aşamasında uyguladığı korumaları dört katman hâlinde açıklıyor: Model Spec’ine uyum, güvenlik ve korumalı alan kullanımı, engelleyici korumalar (güvenlik sınıflandırıcıları ve Auto-review) ve izleme. Şirket, Temmuz ayındaki Hugging Face olayından bu yana korumalarını ve uyum gerekliliklerini güçlendirdiğini söylüyor.

  • Araştırma: OpenAI, artık öncü modellerini canlı internet erişimi olmadan; korumalı alanlar, sanal makineler ve ağ çevre sınırları kullanarak eğittiğini ve bu düzeni kendi en güçlü modelleriyle kırmızı takım testlerine tabi tuttuğunu söylüyor. Tüm öncü model çıkarımlarını izlediğini; bir model internete erişirse güvenlik ekiplerini uyardığını ve iş yükünü otomatik olarak duraklattığını belirtiyor. İzleme sistemlerinin, kurum içi bir araştırma modelinin DNS yapılandırma hatasından yararlanarak sınırlı internet erişimi kazandığını tespit ettiğini bildiriyor. Açığı gidermek için en yetenekli modellerinin eğitim ve değerlendirmesini 20 Eylül'den 1 Ekim'e kadar duraklattığını da aktarıyor. OpenAI'ye göre Control Room sistemi, durdurma talimatının ardından bir işin model çıktısını 35 saniye içinde kesiyor.
  • Kurum içi dağıtım: Çalışanlara korumalı alan olmadan erişim verilmeden önce bir modelin uyum ve izlenebilirlik testlerini geçmesi gerekiyor. OpenAI, bu aşamada her öncü model çıkarımını izlediğini ve Codex kullanan çalışanlardan genellikle Auto-review kullanmalarını istediğini söylüyor.
  • Harici dağıtım: OpenAI; daha kapsamlı uyum ve güvenlik değerlendirmeleri, otomatik kırmızı takım sistemleriyle uyarlanabilir testler, en yetenekli modelleri için üçüncü taraf testleri ve kötüye kullanıma karşı çevrimdışı yaptırım uygulamalarından söz ediyor. Daybreak ve Rosalind gibi güvenilir erişim programları, en hassas yeteneklere kimlerin erişebileceğini kısıtlıyor.

OpenAI ayrıca, güvenlik standartlarını karşılamak için daha fazla zamana ihtiyaç duyduğunda GPT-6.1 Astra gibi modelleri kullanıma sunmadığını ve herhangi bir çalışanın uyumsuzluk bildirim politikası kapsamında bir olayı kamuya açıklanmak üzere işaretleyebileceğini söylüyor.

Bu tür haberleri bildirim olarak alın.

Kullandığınız araçlarda bir şey değiştiğinde AI Tracker sizi uyarır.

Uygulamayı indir