Hugging Face 政策负责人:嵌入式 AI 评估器不是简单解法
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,模型评估仍是一门演进中的科学,结果可复现性和不同评估间的可比性都成问题,评估方法还会较快失效。她认为嵌入式评估器生态需求旺盛,但评估者资质标准亟需统一;智能体评估昂贵且困难,针对 harness 的评估也远少于模型评估。
Hugging Face 首席政策官 Irene Solaiman 在 TechCrunch Disrupt 上表示,模型评估仍是一门演进中的科学,结果可复现性和不同评估间的可比性都成问题,评估方法还会较快失效。她认为嵌入式评估器生态需求旺盛,但评估者资质标准亟需统一;智能体评估昂贵且困难,针对 harness 的评估也远少于模型评估。
微软研究院播客中,partner research manager Jennifer Neville 与首席应用科学家 Chad Atalla 讨论评测如何推动 AI 系统性能边界、满足用户需求,以及模型超出传统 benchmark 测试时出现的“意外失败”。她还分享使用当前 AI 系统的实用建议,并强调结果不符合预期时应仔细检查数据。
Import AI 475 期梳理了三项进展:Toby Ord 分析蜂群扩展,指出 4 智能体蜂群完成任务所需 token 约为单智能体两倍,但并行下理论耗时减半,且存在类似“踩脚”参数的收益递减。