语言模型能同时守住多少条指令：GPT-4o mini在95%正确率下约37–38条
语言模型执行指令的质量随负载下降，但此前没有以负载为单位、带不确定度的容量数值。一种测量工具把负载定义为“单词替换规则”，让每次替换成为可程序判定的伯努利试验，再用分箱加平滑律的统计模型反解容量。对GPT-4o mini的2958次请求、642430次试验测得：在95%正确替换率下容量约37–38条规则，在满替换密度下约18–19条。
偏好优化多了一条语言学约束：把信息密度均匀度写进奖励，模型用词更接近人的习惯
一种把心理语言学中的均匀信息密度假设写进偏好优化奖励的方法，在 AlpacaEval 2、Arena-Hard 与 MT-Bench 上与 SimPO 互有胜负，并在英语补语从句的 that 使用上更接近自然语言。
约束全过不等于答对了：给验证器奖励加一条似然区间，答题质量不再被训练吃掉
可验证指令遵循基准只检查输出约束是否满足，不检查回答是否真正回应请求，前沿模型因此能在几乎不答题的情况下拿满分。把同一验证器当作强化学习奖励，公开的 OLMo 3 检查点出现约束满足率升高而回答质量下降的奖励劫持。CaLIF 用冻结参考策略在请求下与请求加约束下的两个似然值划出一条区间，在区间内给固定奖励、区间外清零，在 1.7B 到 8B 的五种配置上把 IFBench 约束满足率从 26.98 提到 34.64，同时把回答质量维持在 4.59。
Apertus 1.5把图像和音频塞进文本词表：架构不动，8B与70B权重以Apache 2.0开放
瑞士Apertus项目发布1.5版8B与70B模型，在1.0基础上继续预训练，新增图像与音频理解、可选思考模式，并把上下文窗口扩到262,144个token。多模态走早期融合路线：图像和音频被切成离散token，与文本token排进同一序列，不另设视觉编码器，因此模型架构不变、训练仍按纯文本速度运行。模型只理解图像和音频、输出仍是文本，语音处理仍属实验性；项目自述整体仍落后于前沿开放权重模型。
单智能体做SFT数据研究只会调比例：拆出执行、四路分析与合成后，IFEval提前到63.33
监督微调的数据研究正被交给语言模型智能体，但单个智能体拿到完整训练栈后只会反复调整各类数据的配比。AutoSFT把执行、分析、合成拆成不同角色的子智能体，让同一轮数据从训练数据、失败样例、训练信号和历史四个角度被审读，并在数据池覆盖不足时按可验证约束生成新样本。每轮都从同一基座重训，因此各组件效果可单独归因：分析子智能体在第6轮把IFEval推到63.33，已高于单智能体50轮内的最好成绩62.35。
SteerScope 评测套件：23 种方法中无一在效能—副作用权衡上超越 Prompt Steering 基线
作者提出 SteerScope，一个以 15 项指标、两条轴（Steering Outcomes 与 Method Properties）组织的 LLM 激活引导评测套件，在 Gemma-2-2B-it 与 Gemma-2-9B-it 上以匹配的模型、任务与评测协议基准测试了 23 种方法（含 prompting、LoRA、SFT 基线）；结果显示没有任何激活引导方法在获得更高目标效能的同时不带来更大的复合副作用，因而在效能—副作用权衡上均未超越 Prompt Steering 基线，且引导效能与副作用随干预强度同步上升。
改写指令即可提升机器人成功率：从8个任务蒸馏出的改写规则让冻结VLA在12个留出任务上相对提升16%至27%
该工作刻画了视觉-语言-动作模型（VLA）对指令措辞的敏感性：单词级编辑可使成功率相差数十个百分点，且仅靠措辞就能填补分布内与分布外任务之间21个百分点的差距；作者用大语言模型把少量训练任务的多种措辞评分蒸馏为10至20条改写规则，部署时对每条指令改写一次，在不改动策略权重的情况下使冻结模型在12个留出任务上相对提升16%至27%，并在LIBERO上把微调内成功率从93.6%提升到97.8%。
快手与南京大学提出BPS：为边界失败补上反向偏好对，使同一回答在错误处被拒、在正确处被选
快手与南京大学提出双向偏好合成（BPS）：对每个通过验证的边界失败，在原始提示下保留常规前向偏好对，并额外合成一个“已达成提示”下的反向偏好对，使同一回答在错误处被拒、在正确处被选；在Qwen3-4B-Instruct-2507上，BPS在保持原始侧成对排序的同时，将留出交叉锚点上的达成侧排序准确率从6.8%提升到62.3%，且不改变DPO目标、不训练奖励模型、不需要在线采样。
RoboFollow 用高熵场景诊断九类具身策略：L0 近乎满分，L1–L3 意图得分骤降，更强 VLM 与现有优化均未弥合差距
该工作提出 RoboFollow 诊断基准，通过高场景熵设计、L0–L3 分层扰动协议与意图/执行分阶段评分，评估九个 VLA 与 WAM 策略，发现其在分布内 L0 表现强劲但在 L1–L3 下意图得分大幅下降，且更强 VLM 骨干、QA 协同训练、LangForce 与无分类器引导均未能弥合该差距。
当AI评审训练AI评审者：科学判断坍缩与缓解
该研究以Llama 3.1 8B为起点，先用2018–2023年ICLR官方评审微调出评审模型，再用其生成的合成评审与2024年官方评审按0%、33%、66%、100%比例混合训练四个后继模型，发现合成评审比例升高会压缩评分分布并单调降低同论文与语料级语义多样性（约11%与5%），作者称之为“科学判断坍缩”，并提出TrustReviewer系统，通过训练期语料筛选与推理期成对激活引导来缓解该倾向。
已读完全部报道