OpenAI aktualisiert seine Model Spec anhand von fünf Kernwerten

OpenAI hat eine aktualisierte Model Spec veröffentlicht, die öffentliche Beschreibung dessen, wie sich seine Modelle verhalten sollen. Die Überarbeitung ordnet die Leitlinien anhand von fünf Werten neu: Treue zu menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit und Fürsorge. Alles Folgende ist OpenAIs Darstellung.

• Neu: ein Abschnitt zur Treue zu menschlichen Absichten mit einer aktualisierten Befehlshierarchie und einem Unterabschnitt zur sorgfältigen Berücksichtigung des Kontexts (Gespräche, Erinnerungen und weitere Hinweise darauf, was Menschen möchten). Hinzu kommen Vorgaben zur Unterstützung menschlicher Handlungsfähigkeit und zur Einhaltung sozialer Normen sowie erweiterte Leitlinien zum Umgang mit Nebenwirkungen und zu deren Kommunikation.
• Abgeschafft: der Großteil der detaillierten Stilvorgaben, da der Stil laut OpenAI den Vorlieben der Menschen angepasst werden sollte. Strengere Vorgaben bleiben bestehen, etwa Fragen objektiv anzugehen.
• Wortwahl: In der Spec wird das Modell nun als „GPT“ statt als „der Assistent“ bezeichnet.

OpenAI zufolge entsprechen seine Modelle der Spec noch nicht vollständig. Das Unternehmen erprobt neue Trainingsmethoden, um ihnen die Werte beizubringen; Ergebnisse sollen später folgen. OpenAI bittet um öffentliches Feedback.