Artificial Analysis ने Coding Agent Index v2.1 जारी किया: Claude Fable 5.2 और Opus 5.5, 58 अंकों के साथ संयुक्त रूप से शीर्ष पर
Artificial Analysis ने अपने Coding Agent Index का v2.1 जारी किया है, जो मॉडलों को उनके एजेंट हार्नेस के साथ स्कोर करता है। इसमें FrontierCode को 1.1 से 2.0 और Terminal-Bench को 4.0 से 4.1 पर अपग्रेड किया गया है। ये स्कोर Artificial Analysis के अपने हैं।
क्या बदला:
- FrontierCode-AA 2.0, FrontierCode v1.1 की जगह लेता है। यह Cognition के FrontierCode 2.0 का Artificial Analysis द्वारा तैयार किया गया संस्करण है: वास्तविक दुनिया के कोडिंग के 132 कार्य, जिन्हें इस आधार पर ग्रेड किया जाता है कि क्या रिपॉज़िटरी का अनुरक्षक एजेंट के बदलाव को मर्ज करेगा।
- Terminal-Bench 4.1, 4.0 की जगह लेता है: वही 66 कार्य, लेकिन अपडेट किए गए वेरिफ़ायर के साथ, जिनके बारे में Artificial Analysis का कहना है कि वे विश्वसनीयता और रिवॉर्ड हैकिंग के प्रतिरोध को बेहतर बनाते हैं।
- SWE-Atlas-QnA-AA इंडेक्स में बना हुआ है।
- v2.1 में स्कोर कम हैं—औसतन लगभग 5 अंक—और इसकी वजह FrontierCode-AA 2.0 है। Codex के साथ GPT-6.1 Terra (max) एकमात्र कॉन्फ़िगरेशन है जिसका स्कोर नहीं गिरा; उसका स्कोर पहले के स्कोर से 1 अंक के भीतर बना रहा।
नतीजे:
- Claude Fable 5.2 और Claude Opus 5.5, 58 अंकों के साथ संयुक्त रूप से शीर्ष पर हैं। Claude Code में Fable 5.2, xhigh और high—दोनों पर 58 अंक हासिल करता है; Opus 5.5 (max), Claude Code में और GPT-6 Luna High के साथ Cognition के मल्टी-मॉडल हार्नेस Devin Fusion CLI में, 58 अंक हासिल करता है।
- Fable 5.2 (max) को 56 अंक मिले, क्योंकि इसके अधिक प्रयासों ने कार्यों की समय-सीमा पार कर ली। इसके बाद Claude Code में Claude Sonnet 5.5 (max, 56) और Antigravity CLI में Gemini 4 Carbon (high, 55) हैं।
- 48 या उससे अधिक अंक पाने वाले कॉन्फ़िगरेशन में प्रति कार्य लागत लगभग 30 गुना तक अलग-अलग है: Codex के साथ GPT-6.1 Sol (max, 52) के लिए $1.51 से लेकर Claude Code के साथ Fable 5.2 (max, 56) के लिए $44.22 तक।
स्रोत
ऐसी ख़बरें push में पाएँ।
आपके टूल्स में कुछ बदलते ही AI Tracker आपको अलर्ट करता है।