条件流匹配也能迁移:冻结源表示之外再加一层修正,五维响应上能量差异降26.4%
条件流匹配在目标样本有限时,可以借用相关源总体学到的协变量表示。TFM-Freeze 固定源编码器、只训练目标速度头;TFM-Adapt 在函数锚定惩罚下联合学习速度头与表示修正。在五维相关表示的模拟中,源样本量为10000时,无惩罚的 TFM-Adapt 把能量差异从 TFM-Freeze 的0.3158降到0.2325,降幅26.4%;目标验证则用于在迁移无益时退回仅用目标数据的生成器。
条件流匹配在目标样本有限时,可以借用相关源总体学到的协变量表示。TFM-Freeze 固定源编码器、只训练目标速度头;TFM-Adapt 在函数锚定惩罚下联合学习速度头与表示修正。在五维相关表示的模拟中,源样本量为10000时,无惩罚的 TFM-Adapt 把能量差异从 TFM-Freeze 的0.3158降到0.2325,降幅26.4%;目标验证则用于在迁移无益时退回仅用目标数据的生成器。
模拟推断把低维摘要统计量与摊销后验估计器联合训练,并给出非渐近保证:在指数族与光滑模型两类设定下,达到目标精度所需的训练样本量只随观测维度多项式增长,而不是经典非参数条件分布估计中的指数增长。
已读完全部报道