Perplexity ने pplx-embed-v2-context जारी किया: 9B और 0.6B के ओपन-वेट विज़न-लैंग्वेज एम्बेडिंग मॉडल

Perplexity ने Hugging Face पर pplx-embed-v2-context जारी किया—दो ओपन-वेट विज़न-लैंग्वेज एम्बेडिंग मॉडल (9B और 0.6B)—और turbopuffer के साथ मिलकर एक पेपर भी लिखा। दोनों हर दस्तावेज़ के लिए एक int8 वेक्टर लौटाते हैं, या हर ऐसे chunk के लिए एक वेक्टर लौटाते हैं जो पूरा दस्तावेज़ देखता है। दोनों बिना संदर्भ वाले मोड में भी चलते हैं, जिसमें हर दस्तावेज़ के लिए एक एम्बेडिंग होती है और chunking नहीं होती।

Perplexity का कहना है कि उसने इन्हें दूसरे संदर्भ-आधारित एम्बेडिंग मॉडल से अलग तरीके से प्रशिक्षित किया: chunk-स्तर के प्रासंगिकता स्कोर उसके उत्तर पाइपलाइन के query-aware context compression मॉडल से distill किए जाते हैं, न कि हर query के लिए एक ही gold chunk से। इसलिए सहायक chunks को अब नकारात्मक उदाहरण नहीं माना जाता।

नीचे दिए गए नतीजे Perplexity के अपने हैं:

• 9B, ConTEB और दो नए बेंचमार्क—context-bench और Q2D-Chunk—में सबसे आगे है। Q2D-Chunk, Perplexity के वास्तविक सर्च ट्रैफ़िक (6,069 queries, 10 भाषाएँ, 71,100 दस्तावेज़) से बनाया गया है और इसमें उत्तर वाले chunks तथा उन्हें सत्यापित करने के लिए ज़रूरी साक्ष्य—दोनों को लेबल किया गया है। Perplexity ने इसके लिए एक लीडरबोर्ड प्रकाशित किया है।
• ViDoRe-V3 markdown पर, 0.6B सबसे मज़बूत 1B से कम क्षमता वाला मॉडल है—चाहे chunks में बाँटा गया हो या नहीं। 128-token chunks वाला संदर्भ-आधारित 9B, केवल voyage-context-4 के बाद दूसरे स्थान पर है।
• 9B को केवल टेक्स्ट पर प्रशिक्षित किया गया, फिर भी Perplexity का कहना है कि यह दृश्य दस्तावेज़ों पर अग्रणी dense retrievers से बेहतर प्रदर्शन करता है। हर पेज पर 1024-dimension की दो embeddings के साथ, यह ViDoRe-V3 पर Nemotron-3.5-Embed-8B से बेहतर प्रदर्शन करता है और इसका index चार गुना छोटा है।