Perplexity、9Bと0.6Bのオープンウェイト視覚言語埋め込みモデル「pplx-embed-v2-context」を公開

Perplexityは、2つのオープンウェイト視覚言語埋め込みモデル（9Bと0.6B）「pplx-embed-v2-context」をHugging Faceで公開した。論文はturbopufferと共同で執筆した。どちらも文書ごとに1つのint8ベクトルを返すか、文書全体を参照できるチャンクごとに1つのベクトルを返す。また、チャンク分割せず文書ごとに1つの埋め込みを生成する、非コンテキストモードでも動作する。

Perplexityによると、これらのモデルは他のコンテキスト対応埋め込みモデルとは異なる方法で学習させた。クエリ単位で正解チャンクを1つ指定する代わりに、回答パイプラインで使うクエリ対応のコンテキスト圧縮モデルからチャンク単位の関連性スコアを蒸留することで、回答を裏付けるチャンクが負例として扱われないようにしている。

以下はPerplexityが公表した結果：

• 9BはConTEBと、新たに公開された2つのベンチマーク、context-benchとQ2D-Chunkで首位に立つ。Q2D-ChunkはPerplexityの実際の検索トラフィック（6,069件のクエリ、10言語、71,100件の文書）を基に構築され、回答チャンクと、それを検証するために必要な証拠の両方にラベルを付けている。Perplexityはこのベンチマークのリーダーボードを公開した。
• ViDoRe-V3のMarkdownでは、0.6Bがチャンク分割の有無を問わず、1B未満のモデルで最高性能を示す。128トークンのチャンクを使うコンテキスト対応の9Bは、voyage-context-4に次ぐ2位。
• 9Bはテキストのみで学習したが、Perplexityによると、視覚情報を含む文書ではトップクラスの高密度検索モデルを上回る。ページあたり1024次元の埋め込みを2つ使う構成で、インデックスサイズが4分の1ながらViDoRe-V3でNemotron-3.5-Embed-8Bを上回る。