OpenAI围绕五项核心价值更新 Model Spec

OpenAI发布了更新版 Model Spec，这是其对模型行为目标的公开说明。此次修订将指南围绕五项价值重新组织：忠实于人类意图、尽量减少伤害、诚实与透明、人的自主性，以及关怀。以下内容均为 OpenAI 的说法。

• 新增：关于忠实于人类意图的章节，包含更新后的指令层级，以及一个关于仔细考虑上下文的小节（对话、记忆及其他有关人们意愿的证据）。此外，还新增了支持人的自主性、遵循社会规范的默认要求，并扩展了关于控制和说明副作用的指南。
• 删除：大部分详细的风格指南，因为 OpenAI 表示，风格应适应用户的偏好。更强的默认要求仍然保留，例如客观地处理问题。
• 措辞：Spec 现在用“GPT”而不是“the assistant”来指代模型。

OpenAI 表示，其模型目前尚未完全体现 Spec 的要求，并正在探索新的训练方法来教会模型这些价值，之后会公布相关成果。OpenAI 邀请公众提供反馈。