跳到主要内容
返回时间线
arXiv来源发表:

生物医学智能体的答案对了,证据却可能换了:BioAgent-DF 在原始坐标还原工具数值,追回被静默改写的引用

核心概要

BioAgent-DF 把同一科学计算位置上保存的参考值与候选值在原始坐标互换,再让生物医学智能体在健康硬件上继续运行,用来审计数值故障是否改变了它读什么、引什么。在 SciFact 的八个批次中,Qwen3.5-4B 有三个捕获–论断组合稳定改变引用,Gemma 3 4B IT 有四个组合稳定改变阅读与引用,共覆盖两个论断;完整还原能恢复参考证据集而结论不变。在 hERG 心脏安全性筛选中,静默数值故障改变了测试分配,而固定预算的候选清单仍保持同样数量的标记阻断剂。

AI-generated editorial illustration: From Tool State to Scientific Action: Auditing Decision Provenance in Biomedical Research Agents

深度剖析

生物医学智能体可以在给出同一结论的同时读取和引用不同证据,因此只审计最终答案会漏掉证据路径上的变化。 此前的做法把智能体的最终判定当作可审计的结果,而同一论断下的两次执行可能选中不同文档或引用不同句子。 在 SciFact 的八个批次中,Qwen3.5-4B 在三个捕获–论断组合上重复出现引用变化,Gemma 3 4B IT 在四个组合上重复出现阅读与引用变化,这七个组合只覆盖两个论断。

把保存的参考值放回原始坐标,就能让智能体回到参考执行的阅读与引用路径。 候选值与参考值保存在同一科学计算位置,形状、坐标索引和表示一致,差别只记录为残差。 完整还原在每一个确认组合中都恢复了参考的阅读与引用集合,而结论保持不变;在显式示例提示下,完整还原在 Qwen 的九个组和 Gemma 的十五个组中都与参考一致。

在 hERG 心脏安全性筛选的测试分配中,数值故障会改变哪些化合物进入测试,而汇总指标看不出这一变化。 固定预算的候选清单在故障前后保持同样数量的标记阻断剂,但被分配到膜片钳测试或直接推进的化合物发生了改变。 在 2,009 个内部留出化合物上,Case 2 的八个来源中有六个改变了测试分配;智能体读过故障预测之后,替换预测文件没有恢复任何一项改变的决定,而恢复读取前保存的执行状态并继续使用重算分数恢复了全部 39 项。

启示与展望

演示范围是 SciFact 文献论断验证与 hERG 化合物筛选两类任务,数值故障取自两类故障 GPU 上捕获的有限输出,智能体在健康硬件上重放这些数值;hERG 的恢复实验在本地提交记录上完成,尚未在真实自动化实验室中执行。

稳定复现的证据路径变化只覆盖两个论断和两个 4B 模型,且来自按上游检索变化挑选的 Case 2 捕获;不做这种挑选时,候选值造成的差异不高于健康重复之间的波动。hERG 中 R1+M 的边距阈值取自回顾性来源的最大残差,属于经验恢复规则,认证部署需要有效的逐分数误差界或回退到可信全量重算。