模型合并通常要求所有专家用同一个LoRA秩，但各领域的最优秩并不相同。研究者在数学、指令跟随、多语言三个域、四个秩、三种模型规模上训练36个专家，用六种合并方法比较统一秩与各域自选秩：简单平均和按损失效用选分量的方法不受影响，多域准确率最多提高1.8个百分点；TIES、KnOTS这类按奇异值大小裁剪并消解冲突的方法表现不一致，最多损失4个百分点。原因是按幅度选分量会把奇异值最小的指令适配器几乎整体丢弃，IFEval随之下降16到25个百分点。
在私有记录上微调的大模型会记住姓名等个人信息，而现有隐私神经元编辑只看泄漏模型本身，缺少一份不含个人信息的参照来区分身份神经元与有用上下文。JEPA-Prune 用同一批记录的替代值与掩码视图训练一个不含原始个人信息的公开模型作为参照，再以跨模型表示探针、积分梯度和尺度不变特异性分数定位对个人信息敏感的神经元，部署前直接置零、无需重训。在三个个人信息数据集和五个模型上，剪掉 1.6% 的神经元使个人信息推断准确率最多下降 7.4、抽取召回率最多下降 13.9，多数模型未见文本困惑度保持在未剪模型的 16% 以内。
微分平坦系统的规划与控制依赖一个平坦输出，但一般非线性系统没有通用办法把它写出来。FlatSeek把平坦性定义中的重构关系反过来用：先给定输出与重构映射，再微分闭合出相容动力学，从而批量得到带证书的系统—输出配对，并用LoRA微调Qwen3.5-2B提出候选，由符号验证器判定。在文献与合成基准上，FlatSeek分别命中74个和171个系统，最强传统符号方法为58个和127个。
多数投票测试时强化学习会让每道题在训练中锁定到一个答案，难题上常锁到错误答案，而此前只能训练结束后才知道锁到哪一个。该工作把这一过程看成开局接近的两个答案之间由采样噪声驱动的短程竞赛，并给出网络核如何通过尾部答案的更新改变领先两者差距的闭式概率。在MMLU-Pro多选题上对两个模型家族的三个模型做LoRA训练，训练前用冻结核链算出的预测比用结果重新拟合的逻辑模型更准地判断每题锁定哪个答案，且不使用拟合常数。
无人机航拍里，被指代的目标常常只占几十个像素，还挤在一群外观相似的车辆或行人中，生成式编辑器能画出轮廓却可能选错实例。DroneSegEdit 冻结开源的 LongCat-Image-Edit，只训练轻量 LoRA 渲染候选区域，再用语言锚定的空间核验器在候选内部剔除与指代表达不符的前景。在 RIS-LAD 完整官方测试集上，它取得 52.78 mIoU，比此前最好的 ReSaP-8B 高 7.16 点；在 UAVid-RIS 与 VDD-RIS 上整体保持竞争力，车辆、行人等紧凑类别的提升最明显。
微调写进适配器的信息量，不再用参数量或权重重建误差衡量，而定义为压缩后重新载入冻结模型仍保留九成微调增益所需的最小序列化比特数。同一数据集在不同冻结模型上所需速率差别很大，例如保留九成数学增益在Qwen2.5-Math-7B上需1.03比特/值，在Qwen2.5-7B上只需0.41；在故意用错配推理监督训练的适配器上，压缩还把GSM8K准确率从23.7%拉回82.9%，高于冻结Qwen2.5-7B的77.6%。
IBM 研究团队发布 Palette，把做演示文稿拆成“设计师写结构化简报、编码器逐页写 pptxgenjs 代码”两个角色，用同一个 LoRA 适配器承载，并以约1000套、约1万页合成数据训练一个20B开放权重模型。训练数据遵循 IBM Design Language，每页生成后由几何检查器渲染测量、只保留经确认改进的修复。在 PresentBench 上，Palette 在经济学与教育两个领域排第一，在演讲类排第三，三域均值59.7分，落后 NotebookLM 的60.8分1.1分。
持续学习中的遗忘常被归因于回放、正则或架构改造，STABLE 改从优化器入手：它把参数偏离上一任务解的距离当作预算，越界就加大拉回强度，回到预算内就放松。在 ImageNet-R 的 100 任务流上，同一套 LoRA 从 Adam 的 0.66% 平均准确率变为 73.12%，平均遗忘从 60.22% 降到 10.17%；CLIP 多模态流上零样本迁移也保持在预训练水平附近。
生物医学本体需要不断为新类补写文本定义，而大模型写出的定义即使读起来流畅、与参考定义接近，也可能引用本体中不存在的实体或违反逻辑约束。为此，一套智能体质检流程把定义生成改为迭代过程：先写定义，再抽取谓词—对象公理，检查实体能否在本体中落地，并用推理机检验逻辑一致性，失败则带着诊断信息重写。在疾病本体DO 2024上，Qwen2.5-14B基础模型经存在性修复循环后，实体错误率从67.0%降到37.8%，而文本相似度指标基本持平。
可验证奖励强化学习（RLVR）用带标准答案的题目训练语言模型，但训练题本身可能涉密，模型权重会泄露它见过哪些题。DP-GRPO 把同一道题的全部回答合成一个梯度、只裁剪一次并加高斯噪声，使发布权重的隐私预算与每题回答数和裁剪范数无关，作者称这是 RLVR 训练的首个差分隐私保证。在 Qwen2.5-1.5B-Instruct 上以 LoRA 训练、每次运行预算为 8 时，奖励信号相对去掉奖励的对照在 MATH 上提高 2.65 个百分点、GSM8K 上提高 3.24 个百分点，且每个随机种子都为正。