视频上传后自动配乐配音效:ElevenCreative把音效按画面时间点对齐,还能拿原声当参考
核心概要
ElevenCreative上线Instant Soundtracks,上传视频后模型先为画面生成原创配乐,再分析画面中需要音效的时刻,把生成的音效按时间戳自动放到时间线上。此前配乐与音效需要分别制作再手动对位,这次更新还改善了短视频的卡点精度与跨场景情绪切换,并允许用视频原有音频的曲风、渐强、每分钟节拍或配器等特征来塑造新配乐。音效在音乐视频编辑器中以独立图层出现,可单独调整、替换或补充,API侧新增add_sfx、separate_tracks和use_audio_as_reference参数,单次请求最多支持10个视频、合计200 MB与10分钟。
深度剖析
上传一段视频,就能同时得到原创配乐和与画面同步的音效,音效自动落在时间线上对应的时间戳。 此前配乐与音效是分开制作的环节,音效需要人工判断画面中哪些时刻需要声音并手动对位。 官方给出的例子是广告结尾logo出现时对齐的一声whoosh,说明音效位置由模型识别画面时刻后确定。
模型先为整段视频生成配乐,再逐段分析画面寻找需要音效的线索,并把每个音效放到识别出的时间戳上。 这套流程把配乐生成与音效生成串在同一次处理里,音效不再依赖人工标注的时间点。 音效在ElevenCreative的音乐视频编辑器里以独立图层呈现,可与配乐分开查看和调整。
新配乐可以以视频原有音频为参考,模型分析其曲风、渐强、每分钟节拍或配器等特征,用来塑造新配乐的性格。 此前生成配乐基本从零开始,不利用视频里已有的声音信息。 官方说明这样得到的是与原声性格相符的音乐,而不是完全另起一段。
启示与展望
这套能力面向在ElevenCreative、ElevenMusic与ElevenCreative Studio API中制作视频配乐与音效的用户,单次请求最多支持10个视频、合计200 MB与10分钟视频。官方未在材料中给出后续实验或扩展计划。
材料只给出一个whoosh对齐示例,未报告音效识别或情绪切换的准确率;短视频卡点精度与跨场景情绪切换的改善幅度也没有量化说明。
