OpenAI、5つの中核的価値観を軸にModel Specを更新

OpenAIは、モデルにどのように振る舞ってほしいかを示す公開文書「Model Spec」を更新しました。今回の改訂では、指針を5つの価値観――人間の意図への忠実さ、害の最小化、誠実さと透明性、人間の主体性、そして配慮――を軸に再編しています。以下はすべて、OpenAIによる説明です。

• 新設： 人間の意図への忠実さに関するセクションを追加。指揮命令系統を更新し、文脈を慎重に考慮するための小節（会話、記憶、人々の意図を示すその他の証拠）を設けました。また、人間の主体性を支え、社会規範に従うためのデフォルトを追加し、副作用の抑制と伝達に関する指針を拡充しています。
• 廃止： 詳細なスタイル指針の大半を廃止しました。OpenAIは、スタイルは人々の好みに合わせるべきだと説明しています。一方、質問に客観的に答えるといった、より強いデフォルトは維持されます。
• 表現： Specでは、モデルを「the assistant」ではなく「GPT」と呼ぶようになりました。

OpenAIによると、モデルはまだSpecを完全には反映しておらず、価値観を教える新たな訓練方法を模索中で、成果は今後示す予定です。一般からのフィードバックも呼びかけています。