Perplexity выпускает Decider for Mac — приложение, которое локально запускает модель принятия решений на 4B параметров

Perplexity сообщает, что теперь pplx-decider-flash-v1.2 можно запускать на Mac без API-ключа. Decider for Mac — приложение, которое запускает на устройстве модель принятия решений на 4B параметров: вы задаёте вопрос о тексте или изображении и получаете вероятность — всё это происходит на вашем компьютере.

Согласно описанию Perplexity, приложение локально предоставляет API Decisions по адресу 127.0.0.1. Модель занимает около 5,8 ГБ и требует 16 ГБ оперативной памяти.