Kingshuk Gupta

该工作提出一种基于内部隐藏状态的细粒度跨度级幻觉检测框架，通过检查逐层激活模式定位大语言模型生成中的幻觉起始与延续词元，实验显示该方法在极端类别不平衡下相较随机基线在精确率-召回率AUC上取得显著提升，并进一步提出跨模型检测框架，发现一个模型观察另一模型生成所引发的内部表征时，外部观察者能够匹配甚至超过生成模型对自身幻觉起始的自我检测，即使观察者是更小的模型。

该工作提出一种基于内部隐藏状态的细粒度跨度级幻觉检测框架，通过检查逐层激活模式定位大语言模型生成中的幻觉起始与延续词元，实验显示该方法在极端类别不平衡下相较随机基线在精确率-召回率AUC上取得显著提升，并进一步提出跨模型检测框架，发现一个模型观察另一模型生成所引发的内部表征时，外部观察者能够匹配甚至超过生成模型对自身幻觉起始的自我检测，即使观察者是更小的模型。