大模型评测表九成是空格:不跑测试,用同能力基准间的显式校准补出71%的缺失分数
在401个模型、146个基准版本组成的评测矩阵中,实测格子只占8.3%,benchgap不运行任何评测,而是对每一对同能力基准在共同测过的模型上拟合单调曲线,按留一交叉验证误差选型,并给每个估计附上误差与置信等级。在遮住15%实测分数的端到端留出测试中,它填出71%的格子,平均绝对误差4.6个百分点,比同格上的秩2矩阵补全基线低23%;它留空的格子上,基线误差为11.8个百分点。
在401个模型、146个基准版本组成的评测矩阵中,实测格子只占8.3%,benchgap不运行任何评测,而是对每一对同能力基准在共同测过的模型上拟合单调曲线,按留一交叉验证误差选型,并给每个估计附上误差与置信等级。在遮住15%实测分数的端到端留出测试中,它填出71%的格子,平均绝对误差4.6个百分点,比同格上的秩2矩阵补全基线低23%;它留空的格子上,基线误差为11.8个百分点。
已读完全部报道