Perplexity lancia pplx-embed-v2-context, modelli di embedding multimodali open-weight da 9B e 0.6B

Perplexity ha rilasciato pplx-embed-v2-context, due modelli di embedding multimodali open-weight (9B e 0.6B) su Hugging Face, accompagnati da un articolo scritto con turbopuffer. Entrambi restituiscono un vettore int8 per documento, oppure uno per ogni chunk che ha accesso all’intero documento; entrambi funzionano anche in modalità non contestuale, con un embedding per documento e senza suddivisione in chunk.

Perplexity afferma di averli addestrati in modo diverso dagli altri modelli di embedding contestuali: i punteggi di rilevanza a livello di chunk vengono distillati da un modello di compressione del contesto consapevole della query, usato nella pipeline di risposta, invece di basarsi su un unico chunk di riferimento per query. In questo modo, i chunk di supporto non vengono più trattati come elementi negativi.

I risultati riportati di seguito sono quelli di Perplexity:

• Il modello da 9B è in testa a ConTEB e a due nuovi benchmark, context-bench e Q2D-Chunk. Q2D-Chunk si basa sul traffico di ricerca reale di Perplexity (6,069 query, 10 lingue, 71,100 documenti) ed etichetta sia i chunk con le risposte sia le prove necessarie per verificarle. Perplexity ne ha pubblicato una classifica.
• Su markdown di ViDoRe-V3, il modello da 0.6B è il più forte tra quelli sotto 1B, sia con chunk sia senza. Il modello contestuale da 9B, con chunk da 128 token, è secondo solo a voyage-context-4.
• Il modello da 9B è stato addestrato solo su testo, ma Perplexity afferma che supera i principali retriever densi sui documenti visivi. Con due embedding da 1024 dimensioni per pagina, supera Nemotron-3.5-Embed-8B su ViDoRe-V3 usando un indice quattro volte più piccolo.