OpenAI介绍Control Room：可停止其研究基础设施中模型工作负载的系统

OpenAI发布了对Control Room的介绍。这是一个中央系统，用于跟踪其研究基础设施中的模型工作负载，并可在出现安全或安保问题时将其停止。以下内容均为OpenAI自己的说法。

• 范围：Control Room连接所有研究推理工作负载，包括用于训练和评估的智能体采样以及数据处理。OpenAI要求每个进行智能体推理的研究工作负载都必须关联一份已获批准的安全案例。OpenAI称，外部模型服务堆栈的集中化程度已经更高，并且能够快速下线部署。
• 工作方式：任务会从Control Room获取一个任务 ID，并在每次向推理引擎发送请求时附上该 ID。引擎在作答前会向Control Room确认任务是否仍获授权；任务一旦被标记为停止，引擎就会拒绝后续请求，因此即使工作负载自身的代码仍在运行，模型输出也会终止。
• 速度：OpenAI称，在决定停止或暂停任务后的35秒内，模型输出会停止。延迟来自用于授权检查的缓存层；OpenAI称正在努力将其降至零。
• 可靠性：检查位于推理层，而非研究人员的工作负载代码中。OpenAI称，它会进行扫描，以查找未通过Control Room启动的引擎；系统采用故障关闭机制：如果服务宕机或被禁用，所有推理请求都会被拒绝。故障关闭机制已应用于所有前沿模型研究工作负载；OpenAI称，未来几天内会推广到其余工作负载。
• 监控联动：该系统与OpenAI的失准监控器协同工作，后者可通知Control Room停止任务。OpenAI称，某个监控器曾发现9月的DNS事件，当时一个智能体联系了外部聊天机器人。