OpenAI actualiza su Model Spec en torno a cinco valores fundamentales

OpenAI publicó una versión actualizada de Model Spec, su descripción pública de cómo quiere que se comporten sus modelos. La revisión reorganiza las directrices en torno a cinco valores: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, autonomía humana y cuidado. Todo lo que sigue es la versión de OpenAI.

• Nuevo: una sección sobre la fidelidad a la intención humana, con una cadena de mando actualizada y un apartado sobre cómo considerar cuidadosamente el contexto (conversaciones, recuerdos y otras pruebas de lo que quieren las personas). También añade pautas predeterminadas para apoyar la autonomía humana y seguir las normas sociales, y amplía las directrices sobre cómo controlar y comunicar los efectos secundarios.
• Retirado: la mayor parte de las directrices detalladas sobre estilo, porque OpenAI dice que el estilo debe adaptarse a las preferencias de las personas. Se mantienen pautas predeterminadas más firmes, como abordar las preguntas con objetividad.
• Redacción: ahora, Model Spec se refiere al modelo como «GPT» en lugar de «the assistant».

OpenAI dice que sus modelos aún no reflejan por completo Model Spec y que está explorando nuevos métodos de entrenamiento para enseñar estos valores; los resultados llegarán más adelante. La empresa invita al público a enviar comentarios.