智能体强化学习后置信度会失准:StaR-TTA用轨迹稳定性重排,四个问答集平均AUROC达0.7208
智能体强化学习会改变大模型的推理轨迹,使在基座模型上训练的轨迹型置信度估计器明显失准。StaR-TTA把轨迹稳定性当作无需正确性标签的可靠性信号:先在带标签的基座轨迹上学习稳定性与正确性的关系,测试时用无标签强化学习轨迹的稳定性排序校正置信度。在四个问答基准上,它的平均AUROC为0.7208,并在未见数据集、不同模型家族与规模、PPO和GRPO两种强化学习算法下保持改进。
智能体强化学习会改变大模型的推理轨迹,使在基座模型上训练的轨迹型置信度估计器明显失准。StaR-TTA把轨迹稳定性当作无需正确性标签的可靠性信号:先在带标签的基座轨迹上学习稳定性与正确性的关系,测试时用无标签强化学习轨迹的稳定性排序校正置信度。在四个问答基准上,它的平均AUROC为0.7208,并在未见数据集、不同模型家族与规模、PPO和GRPO两种强化学习算法下保持改进。
地铁火灾风险评估长期依赖专家手工挑选贝叶斯网络节点,主观性强、难以随场景调整。这套方法先用自然语言处理从事故记录与消防规范中抽取215个火灾特征词和6类风险标签,建成含666个节点的知识图谱,再用三层图卷积网络做节点分类,结合置信度与K-means聚类自动选出22个代表节点搭建贝叶斯网络。在恶意乘客行为、排烟失效、报警延迟等风险耦合的场景下,伤亡节点的高风险概率由基线6.58%升至53.2%。
已读完全部报道