跳到主要内容
检索

# 视频到音频生成

2 篇关联报道

订阅更新
  1. arXiv

    流式视频配音追上离线对齐:LiveFoley 前端只看 0.08 秒,端到端延迟 156 毫秒

    实时视频转音频长期受制于两处瓶颈:视觉前端为压低预看延迟而缩小感受野,因果扩散后端又逐块独立去噪,导致音画对齐和音质都落后于离线模型。LiveFoley 用尾随滑动窗口把现成的非因果片段级编码器改造成流式模块,无需重训练即可把前端预看降到 0.08 秒,并在后端把去噪窗口向历史扩展。在 VGGSound 测试集上,LiveFoley-48k 的 DeSync 为 0.48,与离线 MMAudio-L 的 0.47 相当,单张 A800 上端到端延迟 156 毫秒。

  2. arXiv

    综述把视频-音频联合生成、跨模态生成与联合编辑统一到同一分布上,并首次系统梳理出九类、28种联合音视频编辑

    这篇综述指出视频与音频虽被共同感知、但多数生成模型仍各自独立处理,于是把联合生成、跨模态生成(由一方生成另一方)与联合编辑三类问题统一定义为同一个音视频对分布上的问题,围绕“输出如何在时间与语义上保持跨模态一致”这一核心问题,提出沿生成策略、音频表示、视频表示、对齐施加方式、预训练复用五个设计轴的分类体系,并首次系统梳理联合音视频编辑,将其映射为九类编辑、28种编辑类型,同时整理各设定下的方法、数据集与指标,最后给出长时程一致性、细粒度控制、物理合理性与评测等开放问题。

已读完全部报道