Perplexity lance Decider pour Mac, qui exécute son modèle de décision de 4B paramètres en local

Perplexity indique que vous pouvez désormais exécuter pplx-decider-flash-v1.2 sur votre Mac sans clé API. Decider pour Mac est une application qui exécute le modèle de décision de 4B paramètres sur l’appareil : posez une question sur un texte ou une image et obtenez une probabilité, le tout sur votre machine.

D’après la description de Perplexity, l’application expose localement l’API Decisions à l’adresse 127.0.0.1. Le modèle pèse environ 5,8 Go et nécessite 16 Go de RAM.