OpenAI, Model Spec을 다섯 가지 핵심 가치에 맞춰 업데이트

OpenAI가 모델의 행동 방침을 공개적으로 설명하는 문서인 Model Spec의 업데이트 버전을 발표했습니다. 이번 개정에서는 지침을 다섯 가지 가치에 따라 재구성했습니다. 인간의 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주체성, 배려입니다. 아래 내용은 모두 OpenAI의 설명입니다.

• 신설: 인간의 의도에 대한 충실성 섹션이 추가됐습니다. 업데이트된 지휘 체계와 맥락을 신중하게 고려하는 하위 섹션(대화, 메모리 및 사람들이 원하는 바를 보여주는 기타 근거)이 포함됩니다. 인간의 주체성을 뒷받침하고 사회적 규범을 따르는 기본 원칙도 추가했으며, 부작용을 통제하고 알리는 지침도 확대했습니다.
• 삭제: 세부적인 스타일 지침 대부분이 삭제됐습니다. 스타일은 사람들의 선호에 따라 달라져야 한다는 것이 OpenAI의 설명입니다. 질문에 객관적으로 접근하는 원칙처럼 더 강력한 기본 지침은 유지됩니다.
• 표현: Spec에서 모델을 가리키는 표현이 "the assistant"에서 "GPT"로 바뀌었습니다.

OpenAI는 자사 모델이 아직 Spec을 완전히 반영하지 못하고 있으며, 이러한 가치를 학습시키기 위한 새로운 훈련 방법을 모색 중이라고 밝혔습니다. 성과는 추후 공개될 예정입니다. OpenAI는 대중의 의견도 요청하고 있습니다.