arXiv 2026年10月12日只看最后一层权重就能判断模型好坏:重尾谱为何有效有了统计解释,训练中还能标出过拟合拐点只用训练好的最后一层权重算出的贝叶斯自由能,在卷积网络和大语言模型上都与模型质量强相关,并在重尾谱假设下给出一个最优重尾参数,训练中越过它就开始过拟合。只用训练好的最后一层权重算出的贝叶斯自由能,在卷积网络和大语言模型上都与模型质量强相关,并在重尾谱假设下给出一个最优重尾参数,训练中越过它就开始过拟合。The University of QueenslandUniversity of California, BerkeleyThe University of MelbourneInternational Computer Science InstituteJoseph Wilson(第一作者)#贝叶斯自由能#高温Marchenko-Pastur分布#重尾自正则化#模型质量预测