指令微调数据只取0.5%：QSGS用图割去冗余，Mistral-7B追平全量数据
面向指令微调的目标数据选择，QSGS把候选样本的梯度相似度组织成一张图，用子模图割同时拉近目标任务、压低子集内部冗余，再用梯度引导合成补上选不出的方向。在MMLU、BBH、TydiQA三个基准和Llama-2、Llama-3、Mistral三个模型上，0.5%预算（27万条中取1350条）的QSGS在Mistral-7B上追平或超过全量数据表现，并在所有基准上优于最强基线。
中医诊断不再只靠文字：ShizhenGPT把舌象、脉象、气味和声音接进同一个32B模型
中医大模型此前多在不足1GB文本上训练，且只处理文字，而中医诊断本身依赖望、闻、问、切多种感官。ShizhenGPT用100GB以上文本（3256本中医书籍与网络语料）和200GB以上多模态数据（120万张标注图像、200多小时音频及脉搏、气味、心电信号）做两阶段预训练与指令微调，把图像、声音和生理信号接入同一个模型。在2024至2025年五套中医考试上，ShizhenGPT-32B平均78.1分，低于DeepSeek-R1-671B的84.0分；在7204道题的中医视觉基准上，它以63.6分超过Gemini-3-Pro的61.4分。
AutoAdapt 用自动潜在领域发现训练独立 LoRA 适配器，在 14 个基准上与全领域单适配器持平并支持免重训扩展
AutoAdapt 提出一种模块化指令微调框架：先用 K-means、BERTopic 与 MNLI 三种方法自动发现潜在领域，再为每个领域独立并行训练一个 LoRA 适配器，并在推理时用基于质心的无参数路由；在 14 个领域基准与 GPT-4o 成对评判中，其表现与在全部领域上训练的单 LoRA 适配器相当，且新增或更新领域只需训练单个适配器而无需全模型重训。
TESS 用 Pointwise Value Matching 目标替换逐样本权重，使数据选择网络在 LLM 安全与指令微调中跨数据集、跨规模迁移
该工作指出把选择网络直接嵌入现有元学习训练数据选择（MTS）目标会因权重抑制和对易学特征的持续依赖而导致优化不稳定与泛化差，并提出基于 Pointwise Value Matching（PVM）目标的可扩展数据选择框架 TESS，在 LLM 安全与定向指令微调实验中显示从子集到全语料、从较小模型到较大模型的强迁移。
MITE 用 Python、C++、Java 三种代码格式指令微调并投票集成，在六个 BioNER 数据集上稳定超过 BERT 与 LLM 基线
该工作提出 MITE，将生物医学命名实体识别重构为结构到结构的生成任务，把同一训练实例转写为 Python、C++、Java 等多种编程语言格式以提供结构多样的监督信号，无需外部生物医学知识或额外标注，并在推理时用实体级投票聚合不同代码格式的预测；在六个常用 BioNER 数据集上，MITE 稳定优于代表性 BERT 类与 LLM 类基线，并表现出较强的跨数据集泛化能力，消融与参数分析进一步验证了各组件的作用与稳健性。
OmniEdu 用 6.9999 万条能力导向指令微调 4B/9B/27B 模型，在课程定位、K12 解题与教学辅导三类基准上全面超过各自基座
北京大学、中国科学院大学与中关村学院的研究者构建了面向 K–12 学习与教学的开源基础模型家族 OmniEdu，用围绕学科能力、课程定位、诊断推理、教学行动与支架四类能力组织的指令微调语料（最终 69,999 条样本、15.96M 监督回复 token，其中教育专用 60,951 条、约 12.0M token），对 4B、9B、27B 三个基座做全参数监督微调，并在课程定位、K–12 解题与教学辅导基准上报告了各规模一致提升，其中 OmniEdu-27B 在 K12-Bench 达 63.12% EM / 76.69% F1、MathFish 85.89%、EDUMATH 86.95% MaC、MathTutorBench Scaffold 78
已读完全部报道