# 激活式LoRA

2 篇关联报道

订阅更新

arXiv 2026年10月30日
检索增强生成不再另设重排器：同一个9B主干先打分再作答，HotpotQA答案F1提高0.045
检索增强生成通常把重排和作答交给两个模型，候选段落因此被处理两遍。Glance 给生成器加一个轻量决策适配器和指针头，让候选段落只做一次共享预填充，再由每个段落自己的短探针给出相关性分数。在 MS MARCO 上微调39分钟后，它在 SciFact 与 NFCorpus 上的 nDCG@10 分别为 0.741 和 0.345，高于 bge-reranker-v2-m3 的 0.721 和 0.326；在 300 道 HotpotQA 问题上，同一基础生成器使用它选出的上下文，答案 F1 比交叉编码器选出的上下文高 0.045。
检索增强生成通常把重排和作答交给两个模型，候选段落因此被处理两遍。Glance 给生成器加一个轻量决策适配器和指针头，让候选段落只做一次共享预填充，再由每个段落自己的短探针给出相关性分数。在 MS MARCO 上微调39分钟后，它在 SciFact 与 NFCorpus 上的 nDCG@10 分别为 0.741 和 0.345，高于 bge-reranker-v2-m3 的 0.721 和 0.326；在 300 道 HotpotQA 问题上，同一基础生成器使用它选出的上下文，答案 F1 比交叉编码器选出的上下文高 0.045。
Adilet Metinov（第一作者）
Glance生成器重排序器段落相关性探针检索增强生成激活式LoRA LoRA 低秩适配
Hugging Face - Blog 2026年10月16日
IBM把聊天、决策与语音塞进一个端点：三个适配器共用一份KV缓存，显存几乎不涨
IBM发布Granite Switch 4.1，把通用决策、安全决策和语音转写三类能力组合进同一个托管端点，8B与30B两个版本在GPU上占用的显存与单独的基础模型大致相当。此前的Granite Switch项目已支持把专用适配器组合进定制模型，而这次随版本一同给出的Decision适配器、Guardian安全适配器和Granite-Speech-5.0-Turbo-CTC转写模型被预先编译进模型。由于适配器以缓存高效的Activated LoRA形式构建，基础模型生成产生的KV缓存可被后续适配器决策复用，因此聊天、决策与语音请求之间的切换不必重建缓存。
IBM发布Granite Switch 4.1，把通用决策、安全决策和语音转写三类能力组合进同一个托管端点，8B与30B两个版本在GPU上占用的显存与单独的基础模型大致相当。此前的Granite Switch项目已支持把专用适配器组合进定制模型，而这次随版本一同给出的Decision适配器、Guardian安全适配器和Granite-Speech-5.0-Turbo-CTC转写模型被预先编译进模型。由于适配器以缓存高效的Activated LoRA形式构建，基础模型生成产生的KV缓存可被后续适配器决策复用，因此聊天、决策与语音请求之间的切换不必重建缓存。
Granite Switch 4.1 激活式LoRA 语音转文本

已读完全部报道

检索增强生成不再另设重排器：同一个9B主干先打分再作答，HotpotQA答案F1提高0.045

IBM把聊天、决策与语音塞进一个端点：三个适配器共用一份KV缓存，显存几乎不涨