Perplexity lança pplx-embed-v2-context, modelos de embeddings multimodais de visão e linguagem com pesos abertos, de 9B e 0,6B

A Perplexity lançou pplx-embed-v2-context, dois modelos de embeddings multimodais de visão e linguagem com pesos abertos (9B e 0,6B), no Hugging Face, junto com um artigo escrito em parceria com a turbopuffer. Ambos retornam um vetor int8 por documento, ou um por trecho que considera o documento inteiro, e também podem ser executados em modo não contextual, com um embedding por documento e sem divisão em trechos.

A Perplexity afirma que os treinou de forma diferente de outros modelos de embeddings contextuais: as pontuações de relevância no nível dos trechos são destiladas de um modelo de compressão de contexto com consciência da consulta, usado em seu pipeline de respostas, em vez de selecionar um único trecho ideal por consulta. Assim, os trechos de apoio deixam de ser tratados como exemplos negativos.

Os resultados a seguir são da própria Perplexity:

• O modelo de 9B lidera no ConTEB e em dois novos benchmarks, context-bench e Q2D-Chunk. O Q2D-Chunk foi criado com base no tráfego real de buscas da Perplexity (6.069 consultas, 10 idiomas e 71.100 documentos) e identifica tanto os trechos que respondem às perguntas quanto as evidências necessárias para verificá-los. A Perplexity publicou um ranking para o benchmark.
• No ViDoRe-V3 markdown, o modelo de 0,6B é o mais forte entre os modelos com menos de 1B de parâmetros, com ou sem divisão em trechos. O modelo contextual de 9B, com trechos de 128 tokens, fica em segundo lugar, atrás apenas do voyage-context-4.
• O modelo de 9B foi treinado apenas com texto, mas, segundo a Perplexity, supera os principais sistemas densos de recuperação de informações em documentos visuais. Com dois embeddings de 1024 dimensões por página, ele supera o Nemotron-3.5-Embed-8B no ViDoRe-V3, usando um índice quatro vezes menor.