跳到主要内容
检索

# 问答

9 篇关联报道

订阅更新
  1. arXiv

    不同大模型也能联邦协作:FedVP 不合并参数,只汇集本地训练的验证器

    联邦学习通常要求各机构共享同一套模型骨干,才能聚合参数更新,这使使用不同家族、不同规模大模型的机构难以协作。FedVP 把协作从参数聚合改为共享验证:每个客户端用本地数据和自家冻结大模型生成的候选回答训练一个验证器,服务器把这些独立训练的验证器汇成池,推理时按池内评分挑选回答,骨干参数始终不合并。在五个医疗问答数据集上,各中心分别使用 3B 到 14B 的 Qwen 与 LLaMA 骨干,同一个验证器池无需重新训练即可复用于全部五个骨干,平均准确率比最强的常规联邦基线高 1.46 到 5.79 个百分点。

  2. bioRxiv

    指南更新了,答案却还停在旧版:强模型检索多个ASCO指南版本后,过时回答出现频率约为不检索时的四倍

    肿瘤指南随证据滚动修订,答案即使忠实引用真实指南,也可能引用已被取代的版本。ASCOBench把288个问题绑定到具体版本的ASCO乳腺癌与前列腺癌指南,并由肿瘤科医生复核参考答案;版本敏感的草稿约四分之一需要修改或重写,事实类不足十分之一。14份被后续文件取代的指南中只有1份声明自己已被替换;对强模型Gemini而言,检索多个指南版本使过时回答的出现频率约为不检索时的四倍,而以验证为先的SentryLine把错误回答降到4.2%至5.2%。

  3. arXiv

    地缘情报问答有了公开基准:415份报告、5525个问答,检索够用而推理仍难

    地缘政治情报问答有了公开基准:415份报告、5525个问答对,检索在文档层面几乎人人满分,但即便给出正确证据,风险类问题仍有七成答案不合格。

  4. arXiv

    多轮智能体的信用分配不再只看最终对错:回看低分回合再采样,七个问答基准上聚合精确匹配领先

    多轮LLM智能体的训练把探索和信用分配绑在同一套事后评分上:回看那些降低参考答案概率的回合、从同一父历史另采分支,再用逆权重把结果折算回原策略,在七个问答基准和三个Qwen骨干上取得最高聚合精确匹配。

  5. arXiv

    文档问答拆成找与读两种智能体:同一模型在M3DocVQA上F1提高11.0

    开放域多模态文档问答要先找到相关段落再读懂它们,而现有检索增强智能体让一个模型同时掌握两类工具并自行调度。KnowForge把流程按职责拆开:只负责搜索的定位智能体、由代码调度强制补上第二跳的桥接判定、合并各次搜索排名的有界证据池,以及只负责读文本、图像和表格的深读智能体。在自托管Qwen3.6-35B-A3B上,完整M3DocVQA(2441题、3368份PDF)F1达47.5,比已发表的M3DocRAG高11.0,比同一索引与模型上的一次检索即答高7.1。

  6. arXiv

    RAG-Stress 诊断协议:要求模型优先信任文档会使正确答案被证据支持的错误答案替换,Strict 比 Soft 的误导率高出 10.9–13.5 个百分点

    RAG-Stress 提出一种受控诊断协议:固定问题与参考答案,只修改证据中一处断言使其支持指定错误答案,并将两种来源优先策略与答案片段在证据文本中的三种位置交叉,在十五个系统、三个问答数据集及中英文医学问答上测量“误导率”(仅统计无检索时原本答对的题目)。结果显示,要求优先信任文档的指令在各系统与数据集上一致地产生更高误导率,跨三个数据集平均差距为 10.9–13.5 个百分点,且按模型平均的误导率在两种指令下均呈“末尾>开头>中间”的顺序。

  7. arXiv

    RECAST 用可训练路由器把检索与计算统一为证据构建,在六个基准上超越检索与程序生成基线

    RECAST 把证据构建建模为在检索与计算操作上的序贯决策过程:轻量 RouterLM 迭代选择词法、语义或关系原语,或请求由冻结 CompilerLM 编译为可执行代码的定制操作,判定证据充分后交给冻结 AnswerLM 作答,并用 SFT 加 GRPO 训练 RouterLM;在六个异构基准上取得最高平均成功率,并在三个留出基准上零样本泛化。

  8. arXiv

    不重训模型、只保留注意力权重最高的少量token,九个检查点的有效注意力集合大小从7到283不等,且上下文越长所需集合越大

    该研究在不重训模型的前提下,在每个头、层和查询处只保留注意力权重最高的若干token并保持其原始权重不变,通过测量负对数似然(NLL)的上升来估计维持给定损失容差所需的“有效注意力集合大小”,发现较小的集合即可让NLL接近全注意力基线、基于注意力的选择明显优于随机选择、所需集合大小随上下文延长而增大但其占上下文的比例下降,并且在固定标注支持事实的BABILong实验中,额外背景会把支持token挤下注意力排名并降低其注意力质量,而对保留权重做重归一化可大幅减小所需集合大小。

  9. Universal Doc AI:融合OCR、RAG与LLM的通用智能文档管理系统

    本文提出并描述了 Universal Doc AI 这一多模态智能文档管理系统,将光学字符识别(OCR)、检索增强生成(RAG)、向量语义检索与大语言模型(LLM)整合为统一平台,对用户上传的PDF、扫描件、图像与手写笔记进行文本抽取、语义分块、向量索引与基于文档内容的对话式问答,并报告在检索准确率、回答相关性与交互效率上相较传统关键词检索有所提升。

已读完全部报道