OpenAI обновляет Model Spec, выстраивая его вокруг пяти ключевых ценностей

OpenAI опубликовала обновлённую версию Model Spec — публичного описания того, как, по замыслу компании, должны вести себя её модели. В новой редакции рекомендации организованы вокруг пяти ценностей: верности намерениям человека, минимизации вреда, честности и прозрачности, самостоятельности человека и заботы. Всё ниже — изложение OpenAI.

• Добавлено: раздел о верности намерениям человека с обновлённой иерархией инструкций и подразделом о внимательном учёте контекста (разговоров, воспоминаний и других свидетельств того, чего хотят люди). Также добавлены базовые правила по поддержке самостоятельности человека и соблюдению социальных норм, а рекомендации по контролю побочных эффектов и информированию о них расширены.
• Убрано: большая часть подробных рекомендаций по стилю, поскольку, по словам OpenAI, стиль должен подстраиваться под предпочтения людей. Более строгие базовые правила сохранены — например, требование объективно подходить к вопросам.
• Формулировки: теперь в Spec модель называется «GPT», а не «the assistant».

OpenAI говорит, что её модели пока не полностью соответствуют Spec и что компания изучает новые методы обучения, которые помогут привить им эти ценности; результаты появятся позднее. OpenAI приглашает всех поделиться отзывами.