Perplexity lanza pplx-embed-v2-context, modelos de embeddings multimodales de pesos abiertos de 9B y 0,6B

Perplexity lanzó pplx-embed-v2-context, dos modelos de embeddings multimodales de pesos abiertos (9B y 0,6B) en Hugging Face, junto con un artículo escrito con turbopuffer. Ambos generan un vector int8 por documento, o uno por fragmento que tiene en cuenta el documento completo, y también funcionan en modo no contextual, con un embedding por documento y sin dividirlo en fragmentos.

Perplexity afirma que los entrenó de forma distinta a otros modelos de embeddings contextuales: las puntuaciones de relevancia a nivel de fragmento se destilan de un modelo de compresión contextual que tiene en cuenta las consultas y forma parte de su canal de respuestas, en lugar de usar un único fragmento de referencia por consulta, por lo que los fragmentos de apoyo ya no se consideran negativos.

Estos son los resultados que presenta Perplexity:

• El modelo de 9B lidera ConTEB y dos nuevos benchmarks, context-bench y Q2D-Chunk. Q2D-Chunk se basa en tráfico real de búsquedas de Perplexity (6.069 consultas, 10 idiomas y 71.100 documentos) y etiqueta tanto los fragmentos con respuestas como las pruebas necesarias para verificarlas. Perplexity publicó una clasificación para este benchmark.
• En ViDoRe-V3 markdown, el modelo de 0,6B es el más sólido entre los modelos de menos de 1B, tanto con fragmentos como sin ellos. El modelo contextual de 9B con fragmentos de 128 tokens queda en segundo lugar, solo por detrás de voyage-context-4.
• El modelo de 9B se entrenó únicamente con texto, pero Perplexity afirma que supera a los principales recuperadores densos en documentos visuales. Con dos embeddings de 1024 dimensiones por página, supera a Nemotron-3.5-Embed-8B en ViDoRe-V3 con un índice cuatro veces más pequeño.