OpenAI décrit Control Room, un système capable d’arrêter les charges de travail des modèles dans toute son infrastructure de recherche

OpenAI a publié une description de Control Room, un système central qui suit les charges de travail des modèles dans son infrastructure de recherche et peut les arrêter en cas de préoccupations liées à la sécurité ou à la sûreté. Tout ce qui suit est le récit d’OpenAI.

• Périmètre : Control Room relie toutes les charges de travail d’inférence de recherche, y compris l’échantillonnage agentique pour l’entraînement et l’évaluation, ainsi que le traitement des données. OpenAI exige que toute charge de travail de recherche effectuant de l’inférence agentique soit associée à un dossier de sûreté approuvé. L’entreprise indique que la pile externe de services de modèles est déjà plus centralisée et permet de désactiver rapidement les déploiements.
• Fonctionnement : une tâche reçoit un ID de tâche de Control Room et le transmet avec chaque requête à un moteur d’inférence. Avant de répondre, le moteur demande à Control Room si la tâche est toujours autorisée ; dès qu’une tâche est marquée comme arrêtée, le moteur refuse les requêtes suivantes, de sorte que la production du modèle cesse même si le code propre à la charge de travail continue de s’exécuter.
• Rapidité : OpenAI indique que la production du modèle s’arrête dans les 35 secondes suivant la décision d’arrêter ou de suspendre une tâche. Ce délai est dû à une couche de mise en cache des vérifications d’autorisation, qu’OpenAI dit s’efforcer de supprimer.
• Fiabilité : la vérification se fait dans la couche d’inférence, et non dans le code des charges de travail des chercheurs. OpenAI indique effectuer des contrôles systématiques pour repérer les moteurs lancés sans Control Room et précise que le système échoue en mode fermé : si le service tombe en panne ou est désactivé, toutes les requêtes d’inférence sont refusées. Ce mode est actif pour toutes les charges de travail de recherche sur les modèles de pointe et, selon OpenAI, sera étendu aux autres dans les prochains jours.
• Lien avec la surveillance : le système fonctionne avec les moniteurs de désalignement d’OpenAI, qui peuvent demander à Control Room d’arrêter une tâche. OpenAI indique qu’un moniteur a détecté l’incident DNS de septembre, au cours duquel un agent a accédé à un chatbot externe.