OpenAI, araştırma altyapısındaki model iş yüklerini durdurabilen Control Room sistemini anlatıyor

OpenAI, araştırma altyapısındaki model iş yüklerini izleyen ve güvenlik veya emniyet endişeleri ortaya çıktığında bunları durdurabilen merkezi bir sistem olan Control Room’un açıklamasını yayımladı. Aşağıdakilerin tümü OpenAI’ın kendi anlatımıdır.

• Kapsam: Control Room; eğitim ve değerlendirme için ajan tabanlı örnekleme ile veri işleme dâhil, tüm araştırma çıkarım iş yüklerini birbirine bağlar. OpenAI, ajan tabanlı çıkarım yapan her araştırma iş yükünün onaylanmış bir güvenlik senaryosuna bağlı olmasını şart koşuyor. Şirket, harici model sunum yığınının zaten daha merkezi olduğunu ve dağıtımları hızla devre dışı bırakabildiğini söylüyor.
• Nasıl çalışıyor: Bir iş, Control Room’dan bir iş kimliği alır ve bunu her istekte bir çıkarım motoruna iletir. Motor, yanıt vermeden önce işin hâlâ yetkili olup olmadığını Control Room’a sorar. Bir iş durduruldu olarak işaretlendiğinde motor başka istekleri reddeder; böylece iş yükünün kendi kodu çalışmaya devam etse bile model çıktısı sona erer.
• Hız: OpenAI, bir işi durdurma veya duraklatma kararının ardından model çıktısının 35 saniye içinde kesildiğini söylüyor. Gecikme, yetkilendirme denetimleri için kullanılan önbellekleme katmanından kaynaklanıyor; OpenAI bunu sıfıra indirmek için çalıştığını belirtiyor.
• Güvenilirlik: Denetim, araştırmacıların iş yükü kodunda değil, çıkarım katmanında yapılıyor. OpenAI, Control Room olmadan başlatılmış motorları bulmak için taramalar yürüttüğünü ve sistemin kapalı durumda güvenli çalıştığını söylüyor: hizmet devre dışı kalır veya kapatılırsa tüm çıkarım istekleri reddediliyor. Kapalı durumda güvenli çalışma, tüm öncü model araştırma iş yüklerinde kullanıma açıldı; OpenAI, önümüzdeki birkaç gün içinde geri kalanına da ulaşacağını söylüyor.
• İzleme bağlantısı: Sistem, Control Room’a bir işi durdurmasını söyleyebilen OpenAI’ın uyumsuzluk izleyicileriyle birlikte çalışıyor. OpenAI, bir izleyicinin, bir ajanın harici bir sohbet robotuna eriştiği Eylül ayındaki DNS olayını tespit ettiğini söylüyor.