智能体时间视野要打折扣:四次全对才算可靠,前沿模型的可信任务长度约为一半
核心概要
前沿AI智能体的“时间视野”通常按平均成功率计算,即智能体以50%概率完成、人类专家需耗时多久的任务。该分析改用METR公开的逐次运行记录,把同一任务重复四次全部成功的概率也拟合成随任务时长变化的曲线,得到“可靠性视野”。在50个模型与基准版本的组合中,可靠性视野都短于能力视野,几何平均比值约2.4;这一差距在2023年至2026年初的模型代际间没有显著收窄。
深度剖析
衡量智能体能干多长任务的时间视野,现在多了一个“每次都得成”的版本。部署方关心的是同一类任务反复出现时智能体是否每次都成功,而常用的50%视野只描述平均成功率。 此前的时间视野研究用平均成功率随任务时长的变化来标定能力,重复试验的可靠性研究则在固定任务上统计多次运行的一致性,两条线没有合到一起。 在METR时间视野评测的公开逐次运行记录上,50个模型与基准版本的组合里,可靠性视野全部短于能力视野,且比值的不确定性区间都排除1。
可靠性视野与能力视野的差距不小,而且没有随模型换代明显缩小。 基准设定要求同一任务连续四次尝试全部成功,此时可靠性视野相对能力视野的几何平均比值为2.39(95%区间2.07–2.84,基准版本1.1)和2.33(1.98–2.81,版本1.0)。 在版本1.1中,Claude Opus 4.6的能力视野约715分钟,四次全成的可靠性视野约355分钟;GPT-5.2对应约354分钟和192分钟。可靠性视野的翻倍时间在版本1.1为3.68个月,能力视野为4.02个月,两者斜率差的不确定性区间包含零。
重复尝试的结果高度依赖任务本身,而不是每次独立抽签。 若各次尝试相互独立,四次全成的视野应落在平均成功率约84.1%的位置,低于80%视野;实际观测到的可靠性视野却落在80%视野与50%视野之间。 同一任务内的结果相关性用组内相关系数衡量,68%到87%的结果方差落在任务之间(两版中位数均为0.79);观测可靠性视野与独立假设视野之比在50个组合中有49个的区间排除1。
结果不一致集中在能力边界附近,而不是最长的任务上。 远低于能力视野时智能体几乎每次都成功,远高于时几乎每次都失败,两端出现混合结果的比例都低于4%。 在距能力视野四倍以内的任务上,混合结果比例升到31%–40%;二次项在两版中均显著为负(p < 10⁻⁵),峰值位于能力视野的0.86倍(版本1.1)和0.69倍(版本1.0)。
启示与展望
结论建立在METR时间视野评测的公开逐次运行记录上,任务集以软件与研究工程任务为主,视野描述的是模型与智能体外壳的组合而非模型本身。
每个模型-任务单元的尝试次数不多(版本1.1中位数为4),单个单元的估计精度有限;人类完成时间存在测量误差,部分长任务用的是估计时间;趋势分析只覆盖三年内20个和30个模型,检测差距收窄的统计功效有限,不显著的收窄不能读作差距恒定。
