跳到主要内容
检索

Tencent (China)

26 篇关联报道

订阅更新
  1. arXiv

    情绪视频生成不再靠固定奖励:EmoReward把上一轮训练的经验变成下一轮的权重

    情绪视频生成的质量没有唯一正确答案,固定融合视觉、运动和文本对齐奖励难以表达情绪意图。EmoReward把一次完整训练中收集的奖励轨迹整理成各情绪场景下各评分通道的可靠性,转成有上限的权重乘子,在下一轮训练中与当前视频的实例门控结合,且不更新任何奖励模型参数。在HunyuanVideo 1.5上配合DanceGRPO、FlowGRPO和SAGE-GRPO,VideoAlign Overall在三种算法下均提高,其中SAGE-GRPO配合EmoReward从-0.8269升至-0.2624。

  2. arXiv

    同一物体换个机位就认不准:LieVLM 用几何令牌预测局部旋转,ScanRefer 定位精度提高 6.9 点

    多视角三维视觉语言模型存在视角诱导的语义漂移:同一物体和同一提问,换一个相机视角,目标相关响应就会变弱、弥散或偏移。LieVLM 让几何令牌预测局部旋转参数和通道门控,在预训练视觉特征的三维子空间上施加保长的旋转修正,再把修正量门控后融回原表示。在 ScanRefer 上,LieVLM-8B 取得 64.5 的 Acc@0.25 和 57.2 的 Acc@0.5,在相同提案细化协议下比已发表的 VG LLM-8B 分别高 6.9 和 6.3 点。

  3. arXiv

    Möbius把去噪搬进语言模型:不靠运动VAE,HumanML3D生成与描述同时领先

    Möbius把运动生成中的整个去噪过程放进与运动理解共用的多模态表示空间,干净运动、带噪运动和文本一起参与共享注意力,不再依赖离散分词器或预训练运动VAE。在HumanML3D上,0.6B版本在文本到运动生成和运动描述两项任务上均优于扩散模型、语言模型及统一运动-语言基线;扩展到1.7B参数、1700小时运动数据后,各运动-语言任务进一步提升。

  4. arXiv

    命令行智能体常把“没做”报成成功:Receipt 读取内核等待状态,把假成功从34次降到9次

    大语言模型智能体通过命令行操作 Web 服务时,默认每次工具调用都会在限定时间内返回且动作已完成;但许多命令会先提问,执行框架关闭输入时程序可能以状态0返回却没做请求的动作,保持输入打开时程序又会一直等到超时。Receipt 保持输入打开,从系统调用读出每个进程在等什么,并把这一状态交回未改动的智能体;在5个模型上,它把假成功从关闭输入时的34次降到9次,比普通终端少用24.4%的 token。

  5. bioRxiv

    折叠模型改当抗体筛选编码器:冻结Protenix,Origin-1宏平均AUROC从0.669升到0.757

    抗体筛选通常把特异性、亲和力与可开发性交给不同模型,结构信息多被压缩成ipTM等单一置信度分数。FoldAbS把开源折叠模型Protenix冻结为共享编码器,只训练轻量任务头,并用抗原错配、CDRH3突变与CDRH3替换三类伪负样本补上特异性监督。以Protenix为骨干的FoldAbS-Px在Origin-1上把宏平均AUROC从0.6690提高到0.7570,并在亲和力与四项可开发性指标上取得所报告的最好结果。

  6. arXiv

    CADS给LLM提议者算净贡献:去掉LLM的同一筛选回路才是对照,命中数会高估

    在顺序生物筛选中,大模型提议的候选常按命中数计功,但重选策略和随机补位本身也会产生命中。CADS把完整回路与去掉提议者的同一回路各自做错误率受控的判定,再取两者认证发现数的配对差;在DepMap模拟中,无LLM回路单独就能通过常规反馈门槛,按来源计数会把Qwen2.5-7B的净贡献从接近零抬到看似为正。

  7. arXiv

    所有采样都失败时不再零信号:PICO用教师约束联合解码,把全错组救回可训练轨迹

    可验证奖励强化学习在超出模型能力的难题上会遇到学习悬崖:一组采样全部答错时,组内相对优势估计塌缩为零,更新拿不到信号。PICO只在全错组触发分布约束的联合解码,让掌握专家解的教师与学生逐词取候选交集,并用动态截断把采样分布限制在有限散度预算内,生成既通过验证又贴近当前策略的轨迹。在Qwen3-4B-Base与Qwen3-8B-Base上,PICO在AIME25、AIME26、HMMT26、MATH500、GPQA-Diamond与HLE六项评测的平均分分别为32.0和35.4,高于GRPO的27.9和31.8。

  8. arXiv

    蒸馏时学生先写错,教师也跟着跑偏:SPTA先让教师学会从学生的半截推理接着讲

    在线策略蒸馏让学生自己生成推理轨迹来训练,但学生的前缀可能带着错误或教师不熟悉的写法,前缀越长,教师逐词给出的监督越不可靠。SPTA在蒸馏开始前先用随机长度的学生前缀训练教师,以最终答案是否正确为奖励,让教师学会从学生造成的状态里把推理拉回正轨,而不是模仿学生的推理;随后照常做在线策略蒸馏,蒸馏目标不变。在数学推理基准上,采用SPTA的学生平均表现优于标准在线策略蒸馏,也优于使用任务级强化学习适配教师的在线策略蒸馏。

  9. arXiv

    推理模型学会在局部停笔:LoCo只改继续或收尾的偏好,数学补全长度减少41.7%–45.4%

    大推理模型常在信息已经足够后继续长篇推理,推高解码延迟与显存开销。LoCo把压缩决策放到单个推理状态上:从模型自身轨迹中找出过度思考的候选状态,冻结该前缀,重新生成更短且答案验证正确的续写,再用DPO学习“继续还是收尾”的偏好。在五个数学基准上,补全长度减少41.7%–45.4%,准确率保持或提升;仅用数学数据训练后,同一模型在三个代码基准上长度减少23.4%–36.3%。

  10. arXiv

    条件记忆表不再按访问频率分比特:按门控逐次查询,DeepSeek表显存从23.6降到3.04 GiB

    大模型把部分事实知识存进按前文词串检索的哈希表,低比特量化会先丢掉长尾事实,而按访问频率给常用行更高精度反而比随机选择更差。GateRQ把每行存成逐级细化的残差码,先用1比特码算出每个查询的门控,再只给门控排名靠前的查询读取更深层。在DeepSeek-V4.1-Flash上,它把每GPU表显存从23.6 GiB降到3.04 GiB,vLLM吞吐在两种负载下比FP8表常驻显存分别高约11%和约31%,PopQA在1.50比特/查询时比FP8低约1个点。