OpenAI explica cómo contiene, prueba y supervisa los modelos de frontera desde el entrenamiento hasta el despliegue
En una publicación sobre seguridad fechada el 18 de noviembre, OpenAI detalla las protecciones que aplica en cada etapa de la vida de un modelo, basadas en cuatro capas: alineación con su Model Spec, seguridad y aislamiento en entornos aislados, salvaguardas de bloqueo (clasificadores de seguridad y Auto-review) y supervisión. Afirma que ha reforzado sus salvaguardas y requisitos de alineación desde el incidente de Hugging Face en julio.
- Investigación: OpenAI afirma que ahora entrena modelos de frontera sin acceso a internet en tiempo real, mediante entornos aislados, máquinas virtuales y perímetros de red, y que somete la configuración a pruebas de red team con sus propios modelos más potentes. Dice que supervisa toda inferencia de frontera y avisa a sus equipos de seguridad y pausa automáticamente una carga de trabajo si un modelo accede a internet. Informa que los monitores detectaron que un modelo de investigación interno aprovechó una configuración errónea de DNS para obtener acceso limitado a internet, y que pausó el entrenamiento y la evaluación de sus modelos más capaces entre el 20 de septiembre y el 1 de octubre mientras corregía la brecha. Según OpenAI, su sistema Control Room detiene la salida del modelo de una tarea en un plazo de 35 segundos desde una instrucción de parada.
- Despliegue interno: antes de que los empleados obtengan acceso sin aislamiento, un modelo debe superar pruebas de alineación y supervisabilidad. OpenAI afirma que supervisa cada inferencia de frontera en esta fase y que, por lo general, exige que los empleados utilicen Auto-review con Codex.
- Despliegue externo: OpenAI describe una gama más amplia de evaluaciones de alineación y seguridad, pruebas adaptativas con equipos automatizados de red team, pruebas de terceros para sus modelos más capaces y medidas de aplicación sin conexión para impedir usos indebidos. Los programas de acceso de confianza, como Daybreak y Rosalind, restringen quién puede acceder a las capacidades más sensibles.
OpenAI también afirma que ha aplazado el lanzamiento de modelos como GPT-6.1 Astra cuando necesitaba más tiempo para cumplir sus estándares de seguridad, y que cualquier empleado puede señalar un incidente para su divulgación pública conforme a su política de notificación de desalineación.
Fuentes
Recibe noticias como esta por push.
AI Tracker te avisa cuando algo cambia en las herramientas que usas.