DSReg 无需重建即可证明式恢复单个世界潜变量,并在合成、像素编码器与外部渲染器上提升稀疏控制与编辑
该工作提出 DSReg(依赖稀疏正则化),在 LeJEPA 提供的线性可辨识前提下,仅凭“结构多样性”这一依赖足迹条件,证明无需重建、无需解码器、无需标签即可把每个世界潜变量恢复到符号置换;方法可事后作用于任意线性可辨识表示并复用已训练检查点,在合成体系、世界模型探针、像素训练编码器与外部渲染器上保持稠密预测不变,同时改善单潜变量恢复与稀疏控制、编辑、少样本读出等下游使用。
该工作提出 DSReg(依赖稀疏正则化),在 LeJEPA 提供的线性可辨识前提下,仅凭“结构多样性”这一依赖足迹条件,证明无需重建、无需解码器、无需标签即可把每个世界潜变量恢复到符号置换;方法可事后作用于任意线性可辨识表示并复用已训练检查点,在合成体系、世界模型探针、像素训练编码器与外部渲染器上保持稠密预测不变,同时改善单潜变量恢复与稀疏控制、编辑、少样本读出等下游使用。
作者提出 AgentTime 基准,用 18 个来源的 222 个任务在原生 CLI 环境中测试智能体的时长遵循、运行时预测与事后时间估计;GPT-6 Astra 在 Codex 中 63% 的运行落在请求时长 5% 以内,Fable 5.1 仅 4%,且 158 条可分类 Astra 记录中有 14 条在看似完成后显式休眠,预测普遍高估自然运行时长,剥离时间线索后回溯偏差增大约两到五倍。
该研究提出更现实的蒸馏攻击威胁模型——攻击者在蒸馏后再进行强化学习,并通过实验表明:蒸馏后加强化学习的组合优于单独蒸馏或单独强化学习;以反蒸馏采样为例,蒸馏后看似有效的防御在强化学习后失效;仅用闭源API返回的推理摘要与最终答案,经弱模型扩展重建近似推理轨迹后蒸馏再强化学习,可取得与使用完整隐藏轨迹相近的推理提升。
该工作提出Complex KDA(CKDA):在Kimi Delta Attention基础上同时放开门控符号(gate entries in {−1,+1})与delta-rule系数范围(β∈[0,2]),使单次对角加秩一转移即可实现二维旋转;作者证明每个正交对角加秩一矩阵都恰是一个CKDA转移,单层CKDA可跟踪同构于O(2)子群的有限群、多层结果比同类对角加秩一线性RNN少用一层,并在群词问题、周期音频续写与语言建模上给出实验。
作者提出 PlaneCycle——一种无参数、免训练、免适配器的 2D 到 3D 提升算子,它让预训练 2D 主干网络在深度方向上循环地在 HW、DW、DH 三个正交平面上做空间聚合,从而在不改动任何预训练参数的情况下获得 3D 融合能力;以 DINOv3 的 ViT-S/16、ViT-B/16、ViT-L/16 为对象,在六个 3D 分类基准和三个 3D 分割基准上,线性探测下 PCg 在 ViT-B/16 上平均 AUC 达 87.8、ACC 达 82.0,超过切片式 2D 基线和 3D 展平基线,并在 5/6 数据集上配对 t 检验显著(p<0.05);全量微调后性能与标准 3D 架构相当,分割任务上最多高出 3D 展平 2.6 个 Dice 点,同时保持与 2D 相同的注意力
已读完全部报道