OpenAI aktualizuje Model Spec, opierając go na pięciu podstawowych wartościach

OpenAI opublikowało zaktualizowany Model Spec, publiczny opis tego, jak chce, by zachowywały się jego modele. W tej wersji wytyczne uporządkowano wokół pięciu wartości: wierności ludzkim intencjom, minimalizowania szkód, uczciwości i przejrzystości, ludzkiej sprawczości oraz troski. Wszystkie poniższe informacje pochodzą od OpenAI.

• Nowość: sekcja poświęcona wierności ludzkim intencjom, ze zaktualizowaną hierarchią poleceń i podsekcją o uważnym uwzględnianiu kontekstu (rozmów, pamięci i innych przesłanek dotyczących tego, czego chcą ludzie). Dodano też domyślne zasady wspierania ludzkiej sprawczości i przestrzegania norm społecznych, a także rozszerzono wytyczne dotyczące kontrolowania i komunikowania skutków ubocznych.
• Usunięto: większość szczegółowych wytycznych dotyczących stylu, ponieważ OpenAI twierdzi, że styl powinien dostosowywać się do preferencji użytkowników. Pozostawiono mocniejsze zasady domyślne, takie jak obiektywne podejście do pytań.
• Sformułowania: w Spec model jest teraz określany jako „GPT”, a nie „asystent”.

OpenAI twierdzi, że jego modele nie odzwierciedlają jeszcze w pełni Spec i że firma bada nowe metody treningu, które pozwolą nauczyć modele tych wartości. Wyniki mają pojawić się później. OpenAI zachęca do przekazywania opinii publicznej.