跳到主要内容
检索

# 分布偏移

13 篇关联报道

订阅更新
  1. arXiv

    随机划分上的95%区间出了训练范围就失效:七套工程数据上,硬偏移覆盖率跌到0.40–0.75

    工程回归的预测区间通常在随机划分上校准,而部署往往发生在训练条件之外。一项基准把七个公开工程数据集沿物理上有意义的偏移变量分成同分布、软偏移和硬偏移三级,用仅源域数据调参的方式比较五个族共12种不确定性量化方法。同分布下保形方法在每个数据集上覆盖率不低于0.946;硬偏移下,11种始终给出区间的方法平均覆盖率降到0.40–0.75,且检测不到方法排名的系统性差异。

  2. researchsquare.com

    临床预测模型上线前先给数据打分:五维画像能标出缺陷,却排不准危害大小

    临床预测模型的质量取决于训练数据,但缺失率、类别比例这类单指标与模型上线后的表现没有直接挂钩。一项在MIMIC-IV三个队列和eICU多中心数据库上开展的探索性基准,把数据质量拆成完整性、标签噪声、分布相似性、代表性和时间完整性五个分量,每个受控条件下都真实训练模型并测量留出患者上的对数损失与校准变化。复合分数在三个受控队列中方向一致,但联合两种损坏时危害呈次可加而非相乘,且在21家可分析eICU医院上只与校准相关、与判别力无可检测关联。

  3. arXiv

    传感器不再重复上传相似画面:命中时只发六字节索引,接收端取回已存原图

    Memento把传感器观测改成按引用传输:先在本地持久存储的向量表里检索相似旧样本,命中就只发一个索引,模型分析显示在LoRa这类低速率链路上,25%命中率即可把延迟和能耗各降约四分之一。

  4. arXiv

    长程推理RL训练不再中途崩:状态分布修正让数学平均比GRPO高48%、代码高12%

    长程自回归强化学习里,局部策略偏差会沿轨迹累积成状态分布偏移,使训练随长度增长而失稳甚至崩溃。轨迹感知策略优化从离策略策略梯度中推导出状态分布修正项并写入优化目标,用几何均值估计压低其方差,再按前序轨迹长度动态收紧裁剪边界。在八个竞赛级数学与代码基准上,它相对GRPO的数学平均提升最高48%、代码平均提升12%,训练分数持续上升而KL散度受控。

  5. arXiv

    漏洞检测模型在陌生项目上把半数补丁误报为漏洞,白化中间层距离提前标出危险区

    在严格配对的漏洞—补丁C/C++函数上,白化后的CodeBERT第三层嵌入配合最近邻距离,把陌生样本与熟悉样本分开,平均OOD AUROC达0.739,并显示跨项目迁移时补丁误报率最高达0.507。

  6. arXiv

    预训练在权重中留下谱指纹:按架构与策略分格后,单一谱统计量可在无目标数据时排序116个基础模型的OOD鲁棒性

    该工作提出按(架构×预训练策略)划分的15个“格”来读取预训练权重的谱结构,证明OOD精度差距受源表征集中度约束,并用每格选定的单一谱统计量在116个模型、7种模态上排序OOD鲁棒性,且对EEG、基因组与蛋白等矩阵外家族在评估前锁定方向后得到前瞻性验证。

  7. arXiv

    模型无关的在线证书驱动校准框架,让卷积、注意力与LLM预测器在协变量与概念漂移下更稳定准确

    该工作提出一种模型无关的在线鞅PAC-贝叶斯框架,用鞅集中不等式替代独立样本集中,在时间依赖与分布漂移下给出有限样本证书,并将该证书作为代理正则项,在固定预测骨干上训练门控残差贝叶斯头进行在线校准,采用先预测后更新的协议,在卷积、注意力与基于大语言模型的预测器上改善了协变量与概念漂移下的稳定性与准确度。

  8. arXiv

    安全路由评测在分布偏移下失真:选择成本可达路由全部收益,且攻击者可压低模型识别率19.6分

    该工作量化了安全路由基准中“在评测数据上挑选最佳单模型作为对照”所带来的选择成本:在 HELM Safety 上随机划分时为 0.003–0.030、留出类别时为 0.045–0.113,与归因于路由的全部差距相当,在 AgentDojo 留出套件时上升七到九倍;按偏移诚实评分后路由收益很小,并发现攻击者若知道所面对模型可将 GPT-5.4 的判定识别率压低 19.6 分。

  9. arXiv

    WISE-ATTA 把主动测试时适应的监督预算从“标哪张”转向“何时标”,在 ImageNet-C/R/K/A 上以更少标签取得更低误差

    该工作提出“预算化主动测试时适应”(budgeted ATTA)设定,即长测试流中只有一部分批次可获得标签,并给出 WISE-ATTA:用在线轻量信号(低熵预测占比)配合滑动历史分位数与预算“欠账”控制器决定何时请求监督,再用相对 EMA 锚模型的预测漂移挑选单个样本标注;在 ImageNet-C 的 CTTA/FTTA 与 ImageNet-R/K/A 上,它以每批 1 个标签达到或优于近期 ATTA 方法,并报告最多减少 50% 标签。

  10. arXiv

    PyroAdapt 用检索加排序微调把加州野火每日预警的平均精度从 21.62% 提到 24.35–24.57%,固定 34 格预算下多捕获 344 个正样本格日

    该工作提出 PyroAdapt 的“预训练—检索—排序”框架:先用历史数据预训练野火风险模型,再用目标年份的无标签协变量检索相似历史位置,并通过同一天火—非火格点对的排序损失(直接排序、残差成对 DPO、选择性排序)进行微调;在加州 666 个 0.25° 格点上,三种排序目标把日均平均精度从继续焦点微调的 21.62% 提升到 24.35–24.57%,Top5% 召回从 18.70% 提升到 22.11–22.79%,在每日 34 格(5% 面积)的固定检测预算下选择性排序多捕获 344 个正样本格日,并在 Yosemite 的滚动评估中显示排序收益在时间分布漂移下仍然存在。