OpenAI beschreibt Control Room, ein System, das Modell-Workloads in seiner Forschungsinfrastruktur stoppen kann

OpenAI hat eine Beschreibung von Control Room veröffentlicht, einem zentralen System, das Modell-Workloads in seiner Forschungsinfrastruktur nachverfolgt und sie stoppen kann, wenn Sicherheitsbedenken auftreten. Alle folgenden Angaben stammen von OpenAI selbst.

• Umfang: Control Room verbindet alle Forschungs-Inferenz-Workloads, darunter agentisches Sampling für Training und Evaluierung sowie Datenverarbeitung. OpenAI verlangt, dass jeder Forschungs-Workload mit agentischer Inferenz an einen genehmigten Sicherheitsfall gebunden ist. Das externe Model-Serving-Stack sei bereits stärker zentralisiert und könne Deployments schnell abschalten.
• Funktionsweise: Ein Job erhält von Control Room eine Job-ID und übermittelt sie mit jeder Anfrage an eine Inferenz-Engine. Bevor die Engine antwortet, fragt sie bei Control Room nach, ob der Job noch autorisiert ist. Sobald ein Job als gestoppt markiert wird, lehnt die Engine weitere Anfragen ab. Dadurch endet die Modellausgabe, selbst wenn der Code des Workloads weiterläuft.
• Geschwindigkeit: OpenAI zufolge wird die Modellausgabe innerhalb von 35 Sekunden nach der Entscheidung, einen Job zu stoppen oder zu pausieren, angehalten. Die Verzögerung entsteht durch eine Caching-Schicht für Autorisierungsprüfungen; OpenAI arbeite daran, sie auf null zu senken.
• Zuverlässigkeit: Die Prüfung ist in der Inferenzschicht angesiedelt und nicht im Workload-Code der Forschenden. OpenAI zufolge führt das Unternehmen Überprüfungen durch, um Engines zu finden, die ohne Control Room gestartet wurden. Außerdem sei das System so ausgelegt, dass es im Fehlerfall geschlossen bleibt: Fällt der Dienst aus oder wird er deaktiviert, werden alle Inferenzanfragen abgelehnt. Diese Fail-closed-Funktion ist für alle Forschungs-Workloads mit Frontier-Modellen aktiv und soll laut OpenAI in den nächsten Tagen auch die übrigen erreichen.
• Verknüpfung mit Monitoring: Das System arbeitet mit den Misalignment-Monitoren von OpenAI zusammen, die Control Room anweisen können, einen Job zu stoppen. OpenAI zufolge erkannte ein Monitor den DNS-Vorfall im September, bei dem ein Agent einen externen Chatbot aufgerufen hatte.