Artificial Analysis、Coding Agent Index v2.1を公開:Claude Fable 5.2とOpus 5.5が58点で首位を分け合う
Artificial Analysisは、モデルとそのエージェント用ハーネスを合わせて評価するCoding Agent Indexのv2.1を公開しました。FrontierCodeを1.1から2.0に、Terminal-Benchを4.0から4.1に更新しています。スコアはArtificial Analysis独自のものです。
変更点:
- FrontierCode-AA 2.0はFrontierCode v1.1に代わるものです。CognitionのFrontierCode 2.0をArtificial Analysisが実装したもので、実際のコーディングタスク132件を対象に、リポジトリのメンテナーがエージェントの変更をマージするかどうかで採点します。
- Terminal-Bench 4.1は4.0に代わるものです。タスクは同じ66件ですが、Artificial Analysisによると、検証器が更新され、信頼性と報酬ハッキングへの耐性が向上しました。
- SWE-Atlas-QnA-AAは引き続きIndexに含まれます。
- v2.1ではスコアが低下しており、平均で約5ポイント下がっています。主な要因はFrontierCode-AA 2.0です。スコアが下がらなかった構成はCodexとGPT-6.1 Terra (max)の組み合わせだけで、以前のスコアからの低下は1ポイント以内にとどまりました。
結果:
- Claude Fable 5.2とClaude Opus 5.5が58点で首位を分け合いました。Claude CodeでFable 5.2はxhighとhighの両方で58点を獲得。Opus 5.5 (max)はClaude Codeで58点を獲得し、さらにGPT-6 Luna Highと組み合わせたCognitionのマルチモデル用ハーネスDevin Fusion CLIでも58点でした。
- Fable 5.2 (max)は56点でした。試行のうち、タスクの制限時間に達したものがより多かったためです。続いて、Claude CodeでClaude Sonnet 5.5 (max)が56点、Antigravity CLIでGemini 4 Carbon (high)が55点でした。
- 48点以上の構成では、タスクあたりのコストに約30倍の差があります。CodexとGPT-6.1 Sol (max)の組み合わせが1.51ドル(52点)で最も安く、Claude CodeとFable 5.2 (max)の組み合わせが44.22ドル(56点)で最も高額でした。
ソース
こんなニュースをプッシュで。
使っているツールに変化があると、AI Tracker がお知らせします。