Artificial Analysis推出VIALS-AA:生命科学视觉推理排行榜,Gemini 4 Carbon以64%领先
Artificial Analysis推出了VIALS-AA,这是一个针对Handshake AI的VIALS基准测试的排行榜。VIALS包含8个领域的161项任务,模型需要读取科学图像资料(如凝胶印迹、流式细胞术图表、质粒图谱和系统发育树),并得出特定结论。
Artificial Analysis使用其开源的Stirrup智能体框架运行每项任务三次,并提供代码执行和图像检查工具。GPT-6 Luna(medium)会根据参考答案为每次回答评分;最终得分是三次运行均被判定正确的任务所占比例。
据Artificial Analysis介绍:
- 最高得分: Gemini 4 Carbon(high)以64%领先,其次是GPT-6 Astra(max),得分为63%;Claude Opus 5.5(max with fallback)以61%位列第三。
- 成本: GPT-6 Astra和GPT-6.1 Sol(均为max)每项任务约使用8轮,而Claude Opus 5.5约使用27轮,Claude Sonnet 5.5约使用25轮。Opus 5.5平均每项任务花费1.64美元,约为Sol(约0.056美元)的29倍。
- 开放权重: Kimi K3.1 Pro以45%领先,略高于得分为43%的MiMo-V2.6-Pro,比最高分低约19个百分点。
- 拒答: 161项任务中,有14项至少触发了一个模型的安全拒答;Claude Sonnet 5.5拒答了6项,在所有模型中最多。
以上数据来自Artificial Analysis自行进行的测量。
来源
这样的新闻,第一时间推送给你。
你用的 AI 工具一有变化,AI Tracker 就会提醒你。