跳到主要内容
检索

# 模型坍缩

4 篇关联报道

订阅更新
  1. researchsquare.com

    递归训练不再等组织塌掉:闭环控制器把崩溃风险从2.67压到0.48,尾部覆盖守住97.4%

    生成模型反复用自身输出训练会收窄分布、先丢掉尾部,这类崩溃此前缺少在训练管线里实时纠偏的机制。HOMEOSTASIS把签名哈希链的溯源记录与预测熵、校准误差、表征漂移三项模型体征合成一个类李雅普诺夫风险量,再由PID控制器调节人类数据混合比例并决定隔离。在五维高斯递归测试台上,30个种子、20代训练下,闭环控制把最终崩溃风险从2.67降到0.48,尾部覆盖保持97.4%,而无控制时为66.2%;溯源门控隔离在控制之上未显示可检测的额外收益。

  2. arXiv

    无需模型:文本熵率过滤在六代QLoRA迭代微调中带来+42%唯一三元组、+30%词表并降低19%重复

    该工作提出一种完全基于原始文本、无需任何模型的非参数Kontoyiannis熵率估计器h_k作为训练数据过滤器,在Llama-3.1-8B的六代QLoRA全合成单谱系崩溃实验中,h_k过滤使唯一三元组增加42%、词表增加30%、重复降低19%(均p<0.001),而依赖模型对数概率的过滤基线在任何指标上均无显著文本多样性收益(p>0.23);并在4个领域、2种温度、2组生成器-评分器模型对、1520篇生成文档上验证h_k可作为跨领域熵代理(β=0.924,R²=0.746)与崩溃检测器(ρ=+0.454,p<0.0001)。

  3. arXiv

    用Fisher-Rao几何重新界定防止模型坍塌所需的人类数据比例

    该工作把生成模型的迭代训练建模为概率单纯形上的闭环随机过程,改用Fisher-Rao度量而非欧氏度量分析其动力学,推导出随维度增大仍不失效的收缩与不变性界,并给出保证收敛到Fisher-Rao球的人类与合成数据比例阈值,结论是有效所需的人类数据比例高于此前欧氏分析所暗示的水平。

  4. arXiv

    当AI评审训练AI评审者:科学判断坍缩与缓解

    该研究以Llama 3.1 8B为起点,先用2018–2023年ICLR官方评审微调出评审模型,再用其生成的合成评审与2024年官方评审按0%、33%、66%、100%比例混合训练四个后继模型,发现合成评审比例升高会压缩评分分布并单调降低同论文与语料级语义多样性(约11%与5%),作者称之为“科学判断坍缩”,并提出TrustReviewer系统,通过训练期语料筛选与推理期成对激活引导来缓解该倾向。

已读完全部报道