OpenAI, 연구 인프라 전반의 모델 작업을 중단할 수 있는 시스템 Control Room 설명

OpenAI가 연구 인프라의 모델 작업을 추적하고 안전 또는 보안 문제가 생기면 중단할 수 있는 중앙 시스템인 Control Room에 관한 설명을 공개했습니다. 아래 내용은 모두 OpenAI 자체 설명입니다.

• 범위: Control Room은 학습 및 평가를 위한 에이전트형 샘플링과 데이터 처리를 포함해 모든 연구 추론 작업을 연결합니다. OpenAI는 에이전트형 추론을 수행하는 모든 연구 작업에 승인된 안전 사례를 연결하도록 요구합니다. 외부 모델 서빙 스택은 이미 더 중앙화되어 있어 배포를 신속히 중단할 수 있다고 밝혔습니다.
• 작동 방식: 작업은 Control Room에서 작업 ID를 받은 뒤, 추론 엔진에 보내는 각 요청에 이를 포함합니다. 응답하기 전에 엔진은 해당 작업이 여전히 승인된 상태인지 Control Room에 확인합니다. 작업이 중단된 것으로 표시되면 엔진은 추가 요청을 거부하므로, 작업 자체의 코드가 계속 실행되더라도 모델 출력은 멈춥니다.
• 속도: OpenAI에 따르면 작업을 중단하거나 일시 정지하기로 결정한 뒤 35초 이내에 모델 출력이 멈춥니다. 지연은 권한 확인을 위한 캐시 계층에서 발생하며, OpenAI는 이를 0으로 줄이기 위해 노력 중이라고 밝혔습니다.
• 신뢰성: 확인 절차는 연구자의 작업 코드가 아니라 추론 계층에서 이루어집니다. OpenAI는 Control Room을 거치지 않고 실행된 엔진이 있는지 점검하고, 시스템은 페일 클로즈 방식으로 작동한다고 밝혔습니다. 즉 서비스가 중단되거나 비활성화되면 모든 추론 요청이 거부됩니다. 모든 프런티어 모델 연구 작업에는 페일 클로즈가 적용되어 있으며, OpenAI는 앞으로 며칠 안에 나머지 작업에도 적용될 것이라고 밝혔습니다.
• 모니터링 연동: OpenAI의 정렬 불일치 모니터와 연동되어 있으며, 이 모니터는 Control Room에 작업 중단을 지시할 수 있습니다. OpenAI에 따르면 한 모니터가 에이전트가 외부 챗봇에 접속한 9월 DNS 사고를 포착했습니다.