Indiana University

2 篇关联报道

订阅更新

arXiv 2026年11月1日
激活引导该插在哪一层：TopoSteer用位移点云的连通长度排序，免去留出集试跑
激活引导在推理时向大模型内部表示加一个向量，但插在哪一层长期靠试：已有选择器只看两类激活是否可分、单条位移是否与均值同向，从不真正引导模型验证。TopoSteer改为给每层算一个分数，即该层逐样本位移点云的欧氏最小生成树总长，用连通长度衡量均值差向量能否代表这些位移。在五个指令微调模型、六个二元人格引导任务上，它在多数模型—层预算组合中优于LayerNavigator，但优势随模型和层预算变化，Qwen-7B与Qwen-32B上更小且更混杂。
激活引导在推理时向大模型内部表示加一个向量，但插在哪一层长期靠试：已有选择器只看两类激活是否可分、单条位移是否与均值同向，从不真正引导模型验证。TopoSteer改为给每层算一个分数，即该层逐样本位移点云的欧氏最小生成树总长，用连通长度衡量均值差向量能否代表这些位移。在五个指令微调模型、六个二元人格引导任务上，它在多数模型—层预算组合中优于LayerNavigator，但优势随模型和层预算变化，Qwen-7B与Qwen-32B上更小且更混杂。
Indiana University Universidad de Sevilla Massachusetts Institute of Technology Northeastern University The University of Tokyo
Tuc Nguyen（第一作者）
TopoSteer拓扑层选择方法激活引导持续同调激活引导层选择
arXiv 2026年10月5日
SWR 用 500 个科学软件工作流自监督生成训练环境，使 Qwen3.8-27B 在 Terminal-Bench 2 上从 47.94% 提升到 53.56%
作者提出 software-in-the-loop reconstruction（SWR）自监督框架，从已有软件工作流中自动获取参考输出与验证目标，在 500 个工作流、46 个软件家族、六个领域上实例化，用 Qwen3.8-Max 三次尝试解出 838 个任务并得到 1,422 条已验证轨迹，过采样为 3,000 条重建训练样本，监督微调使 Qwen3.8-27B 在 Terminal-Bench 2 上的平均表现从 47.94% 提升到 53.56%，并在四项报告评测上取得四个等 token 语料对照中的最高均值。
作者提出 software-in-the-loop reconstruction（SWR）自监督框架，从已有软件工作流中自动获取参考输出与验证目标，在 500 个工作流、46 个软件家族、六个领域上实例化，用 Qwen3.8-Max 三次尝试解出 838 个任务并得到 1,422 条已验证轨迹，过采样为 3,000 条重建训练样本，监督微调使 Qwen3.8-27B 在 Terminal-Bench 2 上的平均表现从 47.94% 提升到 53.56%，并在四项报告评测上取得四个等 token 语料对照中的最高均值。
Hong Kong Polytechnic University University of Georgia Indiana University National University of Singapore University of Illinois Chicago University of Maryland, College Park
Zhongzhi Li（第一作者）
软件在环重构终端智能体 Terminal-Bench 2 监督微调

已读完全部报道

激活引导该插在哪一层：TopoSteer用位移点云的连通长度排序，免去留出集试跑

SWR 用 500 个科学软件工作流自监督生成训练环境，使 Qwen3.8-27B 在 Terminal-Bench 2 上从 47.94% 提升到 53.56%