Mercor divulga resultados do APEX para Inkling 2 Small, 13 pontos acima de Inkling no APEX-Agents
A Mercor, que afirma ter ajudado a Thinking Machines a avaliar Inkling 2 Small antes do lançamento, divulga as pontuações do modelo em seus rankings do APEX:
- APEX-Agents: 46,8% de Pass@1 e pontuação média de 60,9%, 13 pontos acima de Inkling (33,8% de Pass@1, lançado em julho). Por área, o Pass@1 é de 62,2% em Direito (+12,5), 40,3% em Consultoria de Gestão (+14,8) e 37,8% em Banco de Investimento (+11,5).
- APEX-Accounting: 14,5% de Pass@1 e pontuação média de 62,0%. A Mercor o classifica como o segundo modelo aberto com maior pontuação nessa categoria, atrás de Kimi K3.1 Pro (pontuação média de 62,4%).
Estes são os números da própria Mercor.
Fontes
Receba notícias como esta por push.
O AI Tracker avisa você quando algo muda nas ferramentas que você usa.