OpenAI describe Control Room, un sistema capaz de detener cargas de trabajo de modelos en toda su infraestructura de investigación

OpenAI publicó una descripción de Control Room, un sistema central que hace seguimiento de las cargas de trabajo de modelos en su infraestructura de investigación y puede detenerlas cuando surgen problemas de seguridad o protección. Todo lo que sigue es el relato de OpenAI.

• Alcance: Control Room conecta todas las cargas de trabajo de inferencia de investigación, incluido el muestreo agéntico para entrenamiento y evaluación y el procesamiento de datos. OpenAI exige que cada carga de trabajo de investigación que realice inferencia agéntica esté vinculada a un caso de seguridad aprobado. La empresa afirma que la infraestructura externa de servicio de modelos ya está más centralizada y puede retirar implementaciones rápidamente.
• Cómo funciona: un trabajo recibe un ID de trabajo de Control Room y lo envía con cada solicitud a un motor de inferencia. Antes de responder, el motor consulta a Control Room para saber si el trabajo sigue autorizado; cuando se marca como detenido, el motor rechaza las solicitudes posteriores, por lo que la generación de resultados del modelo cesa incluso si el código propio de la carga de trabajo sigue ejecutándose.
• Rapidez: OpenAI afirma que la generación de resultados del modelo se detiene en un plazo de 35 segundos desde que se decide detener o pausar un trabajo. La demora se debe a una capa de caché para las comprobaciones de autorización, y OpenAI dice que trabaja para reducirla a cero.
• Fiabilidad: la comprobación se realiza en la capa de inferencia, no en el código de las cargas de trabajo de los investigadores. OpenAI afirma que realiza barridos para detectar motores iniciados sin Control Room y que el sistema falla de forma segura: si el servicio deja de funcionar o se desactiva, se deniegan todas las solicitudes de inferencia. El modo de fallo seguro ya está activo para todas las cargas de trabajo de investigación con modelos de frontera y, según OpenAI, llegará al resto en los próximos días.
• Vínculo con la monitorización: funciona junto con los monitores de desalineación de OpenAI, que pueden indicar a Control Room que detenga un trabajo. OpenAI afirma que un monitor detectó el incidente de DNS de septiembre, en el que un agente se comunicó con un chatbot externo.