OpenAI met à jour son Model Spec autour de cinq valeurs fondamentales

OpenAI a publié une version mise à jour de son Model Spec, qui décrit publiquement le comportement souhaité pour ses modèles. La révision réorganise les recommandations autour de cinq valeurs : la fidélité aux intentions humaines, la réduction des risques, l’honnêteté et la transparence, la capacité d’action des humains et l’attention portée aux autres. Tout ce qui suit reflète le point de vue d’OpenAI.

• Nouveau : une section sur la fidélité aux intentions humaines, avec une hiérarchie des instructions mise à jour et une sous-section sur la prise en compte attentive du contexte (conversations, mémoires et autres éléments indiquant ce que veulent les gens). Le document ajoute aussi des règles par défaut pour soutenir la capacité d’action des humains et respecter les normes sociales, et développe les recommandations sur la maîtrise des effets secondaires et la communication à leur sujet.
• Retiré : la plupart des recommandations détaillées sur le style, car OpenAI estime que celui-ci doit s’adapter aux préférences des gens. Des règles par défaut plus fortes sont conservées, comme le fait d’aborder les questions de manière objective.
• Formulation : le Spec désigne désormais le modèle par « GPT » plutôt que par « l’assistant ».

OpenAI indique que ses modèles ne reflètent pas encore pleinement le Spec et qu’elle explore de nouvelles méthodes d’entraînement pour leur enseigner ces valeurs, dont les résultats seront communiqués ultérieurement. L’entreprise invite le public à lui faire part de ses commentaires.