智能体做科研卡在“判断”上:五个前沿模型里四个宁可选中被资深研究员改掉的方案
一项新基准把资深研究员对科研智能体的纠正整理成248道二选一判断题:在只看纠正前项目记录的条件下,五个前沿模型中有四个更常选中被人类改掉的原始方案,最高正确率63.5%,而首次接触这些项目的新手研究员为73.4%。基准取自26个横跨六个学科、历时约半年的真实科研项目,每题都要求模型在原始计划与人类修正方案之间做出选择。
一项新基准把资深研究员对科研智能体的纠正整理成248道二选一判断题:在只看纠正前项目记录的条件下,五个前沿模型中有四个更常选中被人类改掉的原始方案,最高正确率63.5%,而首次接触这些项目的新手研究员为73.4%。基准取自26个横跨六个学科、历时约半年的真实科研项目,每题都要求模型在原始计划与人类修正方案之间做出选择。
已读完全部报道