New Jersey Institute of Technology

HyperGuide 将推理视为在双曲空间（Poincaré 球）中嵌入的状态树上的移动，先训练状态编码器、再训练引导头预测从当前状态出发的最小代价转移方向，并把该方向作为虚拟 token 在每个推理步骤后插入解码器，使推理沿单条自回归轨迹进行而无需扩展或重排候选；在竞赛数学与代码生成实验中，其准确率与搜索式和验证器式基线相当或更高，同时生成的 token 显著少于这些基线，与少样本提示大致相当。

HyperGuide 将推理视为在双曲空间（Poincaré 球）中嵌入的状态树上的移动，先训练状态编码器、再训练引导头预测从当前状态出发的最小代价转移方向，并把该方向作为虚拟 token 在每个推理步骤后插入解码器，使推理沿单条自回归轨迹进行而无需扩展或重排候选；在竞赛数学与代码生成实验中，其准确率与搜索式和验证器式基线相当或更高，同时生成的 token 显著少于这些基线，与少样本提示大致相当。

该工作提出 BiasReducer，一个只编辑线性奖励头、不重训奖励模型的轻量框架：先用带语义监督的稀疏自编码器式编码器学习长度、自信、谄媚等预设属性的内部表示，再为每个属性确定调整奖励头的方向与幅度并存入编辑库，最后针对新数据集按属性对奖励分数的影响力排序并选择相应编辑；在五个奖励模型上，BiasReducer-M 使 RM-Bench-Hard、Arena-StyleConflict、JudgeBiasBench 平均提升 8.3、18.0、6.9 个百分点，优于两个基于训练的基线，并在下游 best-of-n 选择与 GRPO 训练中减少冗长与谄媚而保持质量可比。

该工作提出 BiasReducer，一个只编辑线性奖励头、不重训奖励模型的轻量框架：先用带语义监督的稀疏自编码器式编码器学习长度、自信、谄媚等预设属性的内部表示，再为每个属性确定调整奖励头的方向与幅度并存入编辑库，最后针对新数据集按属性对奖励分数的影响力排序并选择相应编辑；在五个奖励模型上，BiasReducer-M 使 RM-Bench-Hard、Arena-StyleConflict、JudgeBiasBench 平均提升 8.3、18.0、6.9 个百分点，优于两个基于训练的基线，并在下游 best-of-n 选择与 GRPO 训练中减少冗长与谄媚而保持质量可比。