OpenAI menjelaskan Control Room, sistem yang dapat menghentikan beban kerja model di seluruh infrastruktur risetnya

OpenAI menerbitkan penjelasan tentang Control Room, sistem terpusat yang melacak beban kerja model di infrastruktur risetnya dan dapat menghentikannya saat muncul masalah keselamatan atau keamanan. Semua hal berikut merupakan keterangan dari OpenAI sendiri.

• Cakupan: Control Room menghubungkan setiap beban kerja inferensi riset, termasuk pengambilan sampel agentik untuk pelatihan dan evaluasi serta pemrosesan data. OpenAI mewajibkan setiap beban kerja riset yang melakukan inferensi agentik untuk dikaitkan dengan kasus keselamatan yang disetujui. OpenAI menyebut tumpukan penyajian model eksternal sudah lebih terpusat dan dapat menonaktifkan deployment dengan cepat.
• Cara kerja: sebuah tugas mendapatkan ID tugas dari Control Room dan menyertakannya pada setiap permintaan ke mesin inferensi. Sebelum menjawab, mesin tersebut menanyakan kepada Control Room apakah tugas itu masih diizinkan; setelah tugas ditandai berhenti, mesin menolak permintaan lebih lanjut, sehingga keluaran model berakhir meskipun kode beban kerja itu sendiri terus berjalan.
• Kecepatan: OpenAI menyebut keluaran model berhenti dalam 35 detik setelah keputusan untuk menghentikan atau menjeda tugas. Jeda ini disebabkan lapisan cache untuk pemeriksaan otorisasi, dan OpenAI mengatakan sedang berupaya menghilangkannya.
• Keandalan: pemeriksaan dilakukan di lapisan inferensi, bukan di dalam kode beban kerja peneliti. OpenAI mengatakan pihaknya menjalankan pemeriksaan menyeluruh untuk mencari mesin yang diluncurkan tanpa Control Room, dan sistem ini dirancang untuk menolak secara default: jika layanan mati atau dinonaktifkan, semua permintaan inferensi ditolak. Mekanisme penolakan secara default ini sudah aktif untuk semua beban kerja riset model frontier dan, menurut OpenAI, akan diterapkan pada sisanya dalam beberapa hari ke depan.
• Kaitan dengan pemantauan: sistem ini bekerja dengan monitor misalignment OpenAI, yang dapat memberi tahu Control Room untuk menghentikan tugas. OpenAI mengatakan sebuah monitor mendeteksi insiden DNS pada September, ketika sebuah agen mengakses chatbot eksternal.