跳到主要内容
检索

# AI智能体评估

2 篇关联报道

订阅更新
  1. cloud.google.com

    智能体做物理工程能拿几分:14个前沿模型在私有测试集上全部低于50%

    Google AI & Infrastructure 团队与 Mercor 合作发布 Physical-Engineering's Last Exam(PLE),用机械、电气、土木、结构四个工程学科的85个长周期任务考察智能体能否在持证工程师复核下完成真实工程工作。每个任务是一个平均含61个文件的容器化项目文件夹,智能体需自行查找规范、计算并产出可交付成果,且必须先通过全部硬性安全检查才计分。在私有测试集上,14个前沿模型全部低于50%,最高配置在其原生框架上平均得分48.3%。

  2. arXiv

    BIABench用16项已发表研究检验AI智能体:常规分析可完成,3D与时间序列任务得分跌至0.00–0.10

    研究者构建了BIABench,把16项已发表生物学研究还原为原始图像加生物学家指令的端到端生物图像分析任务,用研究自身报告的结果作真值、以确定性指标评结果分并用VLM按专家撰写的评分细则评过程分,在6个智能体、多个模型与两种指令详细度下各重复三次,发现常规2D任务最高可达0.97,而5D核孔定量与3D致癌点状结构定量在所有配置下都不超过0.25。

已读完全部报道