# 幻觉检测

胸片视觉语言模型能写出通顺报告，却常把图像里没有的征象写进去，而此前的改进多依赖强化学习、偏好优化或思维链监督，需要重新训练生成器。CheXPoT改为在报告生成之后处理：把报告拆成可核对的谓词，用胸片分类模型和Grad-CAM定位出的视觉证据表逐条判定，删去无法被图像支持的谓词再改写报告。在4,145张图像的留出集上，MedGemma-4B报告的微平均精确率由19.2%升至46.8%，微平均F1由23.0%升至49.4%，14个CheXpert类别中8类的精确率提升具有统计显著性，精确率与F1均无显著下降。

胸片视觉语言模型能写出通顺报告，却常把图像里没有的征象写进去，而此前的改进多依赖强化学习、偏好优化或思维链监督，需要重新训练生成器。CheXPoT改为在报告生成之后处理：把报告拆成可核对的谓词，用胸片分类模型和Grad-CAM定位出的视觉证据表逐条判定，删去无法被图像支持的谓词再改写报告。在4,145张图像的留出集上，MedGemma-4B报告的微平均精确率由19.2%升至46.8%，微平均F1由23.0%升至49.4%，14个CheXpert类别中8类的精确率提升具有统计显著性，精确率与F1均无显著下降。

该工作提出一种基于内部隐藏状态的细粒度跨度级幻觉检测框架，通过检查逐层激活模式定位大语言模型生成中的幻觉起始与延续词元，实验显示该方法在极端类别不平衡下相较随机基线在精确率-召回率AUC上取得显著提升，并进一步提出跨模型检测框架，发现一个模型观察另一模型生成所引发的内部表征时，外部观察者能够匹配甚至超过生成模型对自身幻觉起始的自我检测，即使观察者是更小的模型。

该工作提出一种基于内部隐藏状态的细粒度跨度级幻觉检测框架，通过检查逐层激活模式定位大语言模型生成中的幻觉起始与延续词元，实验显示该方法在极端类别不平衡下相较随机基线在精确率-召回率AUC上取得显著提升，并进一步提出跨模型检测框架，发现一个模型观察另一模型生成所引发的内部表征时，外部观察者能够匹配甚至超过生成模型对自身幻觉起始的自我检测，即使观察者是更小的模型。

该研究把 LLM 不确定性头框架适配到基于 Aya-Expanse-8B 的两个波斯语医学模型 Gaokerena-V 与 Gaokerena-R，先在 168 题伊朗医学入学考试上观察到 Gaokerena-V 的五次运行一致性明显低于 Aya-Expanse-8B 而 Gaokerena-R 与之相当，再构建每个骨干 1600 条响应的波斯语声明级幻觉数据集，在冻结骨干的注意力图与词元概率上训练轻量声明级头，留出测试集上 PR-AUC 为 0.4820 与 0.4652（分别为随机基线的 2.30 与 2.66 倍），ROC-AUC 为 0.7852 与 0.7810，推理时无需检索或重复采样。

该研究把 LLM 不确定性头框架适配到基于 Aya-Expanse-8B 的两个波斯语医学模型 Gaokerena-V 与 Gaokerena-R，先在 168 题伊朗医学入学考试上观察到 Gaokerena-V 的五次运行一致性明显低于 Aya-Expanse-8B 而 Gaokerena-R 与之相当，再构建每个骨干 1600 条响应的波斯语声明级幻觉数据集，在冻结骨干的注意力图与词元概率上训练轻量声明级头，留出测试集上 PR-AUC 为 0.4820 与 0.4652（分别为随机基线的 2.30 与 2.66 倍），ROC-AUC 为 0.7852 与 0.7810，推理时无需检索或重复采样。