AI 与科学前沿 · 2026-10-25

按整体相关性删除“冗余”基准，可能恰好丢掉区分头部模型的信息。对Open LLM Leaderboard v2的4,497个模型做copula依赖建模后，BBH与GPQA的整体Spearman相关为0.861，但限制到前20%模型时条件相关降到0.434，前5%时转为-0.278；15对基准中有7对由零尾依赖的Frank copula拟合，说明高相关不等于头部排名一致。

按整体相关性删除“冗余”基准，可能恰好丢掉区分头部模型的信息。对Open LLM Leaderboard v2的4,497个模型做copula依赖建模后，BBH与GPQA的整体Spearman相关为0.861，但限制到前20%模型时条件相关降到0.434，前5%时转为-0.278；15对基准中有7对由零尾依赖的Frank copula拟合，说明高相关不等于头部排名一致。

研究把大模型拒答行为拆成一条跨层通路：前中层的“有害检测头”识别输入中的有害词，中后层的“安全神经元”在残差流中传递并稳定这一信号，后层的“拒答头”据此生成拒绝。对这三类组件做不改变架构的权重缩放后，六个模型在GCG攻击下的平均安全率从43.2%升到69.7%，四个标准基准上的平均准确率只下降1.7%。

研究把大模型拒答行为拆成一条跨层通路：前中层的“有害检测头”识别输入中的有害词，中后层的“安全神经元”在残差流中传递并稳定这一信号，后层的“拒答头”据此生成拒绝。对这三类组件做不改变架构的权重缩放后，六个模型在GCG攻击下的平均安全率从43.2%升到69.7%，四个标准基准上的平均准确率只下降1.7%。

医学视觉语言模型在权威口吻的提示下会改口附和，而提示词层面的防御即使把答案纠正回来，内部对图像证据的利用仍在后段融合层塌陷。HD-AS 不改参数，先用中性提示与偏置提示之间的激活漂移挑出与附和相关的注意力头，再在推理时对这些头的输出投影做各向同性阻尼。在 SLAKE 上，Qwen2.5-VL-7B 的平均条件翻转率降到34.60%，低于对比解码的38.29%，中性提示准确率保持在74.37%。

医学视觉语言模型在权威口吻的提示下会改口附和，而提示词层面的防御即使把答案纠正回来，内部对图像证据的利用仍在后段融合层塌陷。HD-AS 不改参数，先用中性提示与偏置提示之间的激活漂移挑出与附和相关的注意力头，再在推理时对这些头的输出投影做各向同性阻尼。在 SLAKE 上，Qwen2.5-VL-7B 的平均条件翻转率降到34.60%，低于对比解码的38.29%，中性提示准确率保持在74.37%。

大模型在专业科学任务中仍会编造与领域规则相悖的推理依据。SciDC把自然语言写成的科学知识交给通用大模型编译成顶层推理步骤、中层条件校验和底层词元掩码三层规则，再由本地部署的领域模型在解码时执行。在工业配方设计、甲状腺癌TNM分期和单步逆合成三个任务上，与直接生成相比平均准确率提升12%；消融显示去掉顶层或底层规则后配方设计准确率明显下降。

大模型在专业科学任务中仍会编造与领域规则相悖的推理依据。SciDC把自然语言写成的科学知识交给通用大模型编译成顶层推理步骤、中层条件校验和底层词元掩码三层规则，再由本地部署的领域模型在解码时执行。在工业配方设计、甲状腺癌TNM分期和单步逆合成三个任务上，与直接生成相比平均准确率提升12%；消融显示去掉顶层或底层规则后配方设计准确率明显下降。

掩码扩散语言模型逐块解码时，先提交的词通常不再改动，早期在稀疏上下文下做出的选择会一直保留。CoDR把每个已提交词在提交时的置信度与更密上下文下的置信度作比较，只把置信度下降超过阈值的词重新掩码并交给原采样器重填，用k路划分探测把全部已提交位置的漂移估计压缩到k次前向。在LLaDA-8B与Dream-7B、三个基础采样器和四个推理与代码任务上，加入CoDR后各模型–采样器组合的四任务平均准确率均提高，LLaDA上top1、fd、eb分别提高0.85、1.06、1.44个百分点。

掩码扩散语言模型逐块解码时，先提交的词通常不再改动，早期在稀疏上下文下做出的选择会一直保留。CoDR把每个已提交词在提交时的置信度与更密上下文下的置信度作比较，只把置信度下降超过阈值的词重新掩码并交给原采样器重填，用k路划分探测把全部已提交位置的漂移估计压缩到k次前向。在LLaDA-8B与Dream-7B、三个基础采样器和四个推理与代码任务上，加入CoDR后各模型–采样器组合的四任务平均准确率均提高，LLaDA上top1、fd、eb分别提高0.85、1.06、1.44个百分点。

中医大模型此前多在不足1GB文本上训练，且只处理文字，而中医诊断本身依赖望、闻、问、切多种感官。ShizhenGPT用100GB以上文本（3256本中医书籍与网络语料）和200GB以上多模态数据（120万张标注图像、200多小时音频及脉搏、气味、心电信号）做两阶段预训练与指令微调，把图像、声音和生理信号接入同一个模型。在2024至2025年五套中医考试上，ShizhenGPT-32B平均78.1分，低于DeepSeek-R1-671B的84.0分；在7204道题的中医视觉基准上，它以63.6分超过Gemini-3-Pro的61.4分。

中医大模型此前多在不足1GB文本上训练，且只处理文字，而中医诊断本身依赖望、闻、问、切多种感官。ShizhenGPT用100GB以上文本（3256本中医书籍与网络语料）和200GB以上多模态数据（120万张标注图像、200多小时音频及脉搏、气味、心电信号）做两阶段预训练与指令微调，把图像、声音和生理信号接入同一个模型。在2024至2025年五套中医考试上，ShizhenGPT-32B平均78.1分，低于DeepSeek-R1-671B的84.0分；在7204道题的中医视觉基准上，它以63.6分超过Gemini-3-Pro的61.4分。

大型视觉语言模型的幻觉部分源于CLIP式视觉编码器偏爱主体、忽略细节。PLANE在CLIP上挂三个LoRA视觉专家，分别学习物体、属性与关系三个方面的图文对应，再由一个按指令分配权重的门控网络在词元级别融合四路图像特征。它只在LLaVA-1.5 7B上训练一次，即可直接接入使用同一视觉编码器的其他模型；在LLaVA-1.5 7B上，MME幻觉子集总分由555.38升至582.34，GIFT幻觉率由23.39%降至20.30%。

大型视觉语言模型的幻觉部分源于CLIP式视觉编码器偏爱主体、忽略细节。PLANE在CLIP上挂三个LoRA视觉专家，分别学习物体、属性与关系三个方面的图文对应，再由一个按指令分配权重的门控网络在词元级别融合四路图像特征。它只在LLaVA-1.5 7B上训练一次，即可直接接入使用同一视觉编码器的其他模型；在LLaVA-1.5 7B上，MME幻觉子集总分由555.38升至582.34，GIFT幻觉率由23.39%降至20.30%。