跳到主要内容
检索

# 多步推理

4 篇关联报道

订阅更新
  1. arXiv

    推理不再只靠事后投票:VGSC在解码中随机接受候选步,平均准确率63.1%

    大模型多步推理的测试时搜索长期在两种不完美信号之间取舍:事后投票保留多样性却无法把生成引向正确路径,束搜索式验证器引导能提前干预却容易过度集中并放大验证器误差。VGSC把逐步正确性与未来结果预测合成一个接受权重,在解码时对候选步做有上限的拒绝重采样,同时保留多条轨迹做最终自洽投票。在五个推理基准、Qwen2.5 Math 1.5B Instruct生成器与Qwen2.5 Math PRM 7B验证器下,VGSC在验证器信任指数为10时取得63.1%的平均准确率,高于最强非VGSC基线BS+SC-Future的60.7%。

  2. Benchling

    AI设计分子克隆实验:最强模型单次仅解30.6%,十次尝试升到72%

    分子克隆需要从选材、设计序列到规划多步反应的整体推理,而现有模型只在单步任务上表现可靠。BenchBench-Cloning 用65个取自真实实验的克隆任务检验端到端设计能力,分为完整方案设计与构建体设计两类。GPT-6 Astra 单次尝试解出30.6%的任务,领先 GPT-6.1 Sol 的22.2%和 Claude Opus 5.5 的20.5%;同一模型在十次尝试内可解出72%的方案设计任务,而单次为27%。

  3. arXiv

    HyperThink 用超网络把长思维链压缩成一次参数更新,在低延迟区间提升数学与通用推理表现

    HyperThink 提出一种文本到参数的方法:轻量超网络读取问题并预测基础大模型一小部分参数的更新,向量量化解码器把这些更新约束为有限的可复用模式,端到端在基础模型自身输出上训练;测试时一次超网络前向即可让适配后的模型直接生成简洁的分步解答与最终答案,不再产生中间思维链,用更少 token 保持较强推理性能,并在数学与通用推理任务的准确率—延迟权衡中改善低延迟区间,在接近非思考的区间增益最强。

  4. arXiv

    HyperGuide 用双曲空间中的虚拟 token 引导 LLM 单轨迹推理,在竞赛数学与代码生成上以更少 token 达到或超过搜索与验证器基线

    HyperGuide 将推理视为在双曲空间(Poincaré 球)中嵌入的状态树上的移动,先训练状态编码器、再训练引导头预测从当前状态出发的最小代价转移方向,并把该方向作为虚拟 token 在每个推理步骤后插入解码器,使推理沿单条自回归轨迹进行而无需扩展或重排候选;在竞赛数学与代码生成实验中,其准确率与搜索式和验证器式基线相当或更高,同时生成的 token 显著少于这些基线,与少样本提示大致相当。

已读完全部报道