Perplexity brengt pplx-embed-v2-context uit, open-weight vision-language-embeddingmodellen van 9B en 0,6B

Perplexity heeft pplx-embed-v2-context uitgebracht: twee open-weight vision-language-embeddingmodellen (9B en 0,6B) op Hugging Face, met een paper geschreven samen met turbopuffer. Beide leveren één int8-vector per document, of één per chunk die het hele document kan zien. Daarnaast draaien ze in een niet-contextuele modus, met één embedding per document en zonder chunking.

Perplexity zegt dat het de modellen anders heeft getraind dan andere contextuele embeddingmodellen: relevantiescores op chunkniveau worden gedestilleerd uit een query-aware contextcompressiemodel in de antwoordpipeline, in plaats van één gold chunk per query te gebruiken. Daardoor worden ondersteunende chunks niet langer als negatieven behandeld.

De onderstaande resultaten zijn van Perplexity zelf:

• De 9B voert ConTEB en twee nieuwe benchmarks aan: context-bench en Q2D-Chunk. Q2D-Chunk is samengesteld op basis van echt Perplexity-zoekverkeer (6.069 queries, 10 talen, 71.100 documenten) en labelt zowel chunks met antwoorden als het bewijsmateriaal dat nodig is om die te verifiëren. Perplexity heeft er een leaderboard voor gepubliceerd.
• Op ViDoRe-V3 markdown is de 0,6B het sterkste model onder 1B, met of zonder chunking. De contextuele 9B met chunks van 128 tokens staat op de tweede plaats, na voyage-context-4.
• De 9B is uitsluitend op tekst getraind, maar presteert volgens Perplexity beter dan de toonaangevende dense retrievers op visuele documenten. Met twee embeddings van 1024 dimensies per pagina verslaat het Nemotron-3.5-Embed-8B op ViDoRe-V3 met een index die vier keer kleiner is.