跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

EscapeGuard 在六基准六模型上将工具选择幻觉降低 9.0 个百分点并抑制跨配置幻觉逃逸

该工作识别并形式化定义了“幻觉逃逸”:现有工具幻觉缓解方法在其调优的工具配置上降低幻觉,却在其他配置上增加幻觉;作者发现模型存在内在工具使用倾向,与运行时配置冲突时幻觉急剧上升,而现有方法反而强化这些倾向;据此提出免训练推理时方法 EscapeGuard,通过冲突感知门控与配置导出的注意力增强,在六个基准与多种模型上将工具选择幻觉降低 9.0 个百分点,跨配置均值下降 23.7 个百分点,配对查询净提升 89.1%。