Latent Space· Richard MacManus·· 3 小时前
Elorian 发布 DecoyCount 基准:前沿模型视觉计数准确率均低于 50%
Can Frontier Models See Past a Decoy? Elorian Tests Visual Reasoning
AI 导读
Elorian 联合 Mercor 发布 DecoyCount 基准,测试语言模型是否真正计数物体,而非依赖视觉捷径。论文显示前沿模型准确率均低于 50%,最高的是 GPT-6 Astra 的 43.17%,Elorian 内部测试中 Glimpse 得 50.48%,但仅单次运行,且未使用工具。
来源:Latent Space · latent.space