Perplexity、4Bの判定モデルをローカルで実行するDecider for Macをリリース
Perplexityによると、APIキーなしでMac上でpplx-decider-flash-v1.2を実行できるようになりました。Decider for Macは、4Bの判定モデルを端末上で動かすアプリです。テキストや画像について質問すると、確率が返されます。すべてMac上で処理されます。
Perplexityの説明によると、このアプリは127.0.0.1でDecisions APIをローカルに提供します。モデルのサイズは約5.8 GBで、16 GBのRAMが必要です。
ソース
こんなニュースをプッシュで。
使っているツールに変化があると、AI Tracker がお知らせします。