OpenAI aggiorna il suo Model Spec attorno a cinque valori fondamentali

OpenAI ha pubblicato una versione aggiornata del Model Spec, la descrizione pubblica di come vuole che si comportino i suoi modelli. La revisione riorganizza le linee guida attorno a cinque valori: fedeltà alle intenzioni umane, riduzione dei danni, onestà e trasparenza, autonomia umana e attenzione. Tutto ciò che segue è quanto riferisce OpenAI.

• Novità: una sezione sulla fedeltà alle intenzioni umane, con una gerarchia delle istruzioni aggiornata e una sottosezione su come valutare attentamente il contesto (conversazioni, memorie e altri elementi utili a capire cosa vogliono le persone). Introduce inoltre impostazioni predefinite per sostenere l’autonomia umana e rispettare le norme sociali, e amplia le indicazioni su come controllare e comunicare gli effetti collaterali.
• Rimosso: gran parte delle indicazioni dettagliate sullo stile, perché, afferma OpenAI, lo stile dovrebbe adattarsi alle preferenze delle persone. Restano impostazioni predefinite più rigorose, come affrontare le domande in modo obiettivo.
• Terminologia: ora il Model Spec si riferisce al modello come «GPT» anziché «l’assistente».

OpenAI afferma che i suoi modelli non rispecchiano ancora pienamente il Model Spec e che sta esplorando nuovi metodi di addestramento per insegnare questi valori; i risultati arriveranno in seguito. L’azienda invita il pubblico a inviare feedback.