OpenAI werkt Model Spec bij rond vijf kernwaarden

OpenAI heeft een bijgewerkte Model Spec gepubliceerd: een openbare beschrijving van hoe het wil dat zijn modellen zich gedragen. De herziening ordent de richtlijnen rond vijf waarden: trouw aan menselijke intenties, schade beperken, eerlijkheid en transparantie, menselijke autonomie en zorg. Alles hieronder is het relaas van OpenAI.

• Nieuw: een sectie over trouw aan menselijke intenties, met een bijgewerkte hiërarchie van instructies en een subsectie over het zorgvuldig meewegen van context (gesprekken, herinneringen en ander bewijs van wat mensen willen). Ook worden uitgangspunten toegevoegd voor het ondersteunen van menselijke autonomie en het volgen van sociale normen, en wordt de richtlijn over het beheersen en communiceren van neveneffecten uitgebreid.
• Vervallen: het grootste deel van de gedetailleerde stijladviezen, omdat stijl volgens OpenAI moet aansluiten bij wat mensen prettig vinden. Sterkere uitgangspunten blijven behouden, zoals vragen objectief benaderen.
• Formulering: in de Spec wordt nu naar het model verwezen als "GPT" in plaats van als "de assistent".

OpenAI zegt dat zijn modellen nog niet volledig aansluiten bij de Spec en dat het nieuwe trainingsmethoden onderzoekt om de waarden aan te leren. De resultaten volgen later. Het bedrijf nodigt het publiek uit om feedback te geven.