微调适配器该留多少比特：同一数据集换一个冻结模型，行为速率就从1.03降到0.41
微调写进适配器的信息量，不再用参数量或权重重建误差衡量，而定义为压缩后重新载入冻结模型仍保留九成微调增益所需的最小序列化比特数。同一数据集在不同冻结模型上所需速率差别很大，例如保留九成数学增益在Qwen2.5-Math-7B上需1.03比特/值，在Qwen2.5-7B上只需0.41；在故意用错配推理监督训练的适配器上，压缩还把GSM8K准确率从23.7%拉回82.9%，高于冻结Qwen2.5-7B的77.6%。
离散扩散模型不再按词表规模付代价：稀疏数据下掩码与均匀加噪同达极小极大最优
离散扩散模型此前缺少像连续扩散那样的统计理论，尤其不清楚它能否利用数据分布的稀疏结构。该分析把掩码扩散的分数估计写成按上下文做标签平滑的分类器，并证明这种平滑等价于用均匀分布分数损失做正则。在至多k个序列有正概率的稀疏分布类上，掩码与均匀两种加噪过程的终端分布都达到稀疏极小极大速率，且平滑强度可由训练中出现的不同序列数自适应选取，无需知道稀疏参数。
OTRetarget 用最优传输把人类演示中的接触关系搬到 G1 人形机器人身上，机器人—物体交互 Jaccard 达 87%
OTRetarget 提出一种联合重定向方法，用带符号距离、最近表面点和相对方向刻画表面交互，并通过熵正则最优传输把这些量在人体、机器人和物体几何之间迁移，再放入逐帧约束逆运动学中同时优化机器人与物体位姿；在 OMOMO 上机器人—物体交互 Jaccard 为 87%、深度误差 8.7 mm，对比 OmniRetarget 的 28% 与 29.3 mm，并在真实 Unitree G1 上完成双手搬箱放到桌面的任务。
已读完全部报道