时间序列基础模型不必每层都跑:中等稀疏下A100延迟降11%到13%,但各数据集有差异
两个预训练时间序列基础模型在推理时跳过整块Transformer,在1088个留出窗口上跨数据集平均预测质量变化很小,中等稀疏下A100单条延迟中位数分别降11.2%和13.4%。
两个预训练时间序列基础模型在推理时跳过整块Transformer,在1088个留出窗口上跨数据集平均预测质量变化很小,中等稀疏下A100单条延迟中位数分别降11.2%和13.4%。
该工作对一个因果语音增强模型的每个中间深度都施加监督,并微调各输出头以保证更深输出不劣于更浅输出,由此得到一族比同预算从零训练的等规模模型更帕累托高效的静态模型(同等算力下PESQ最高提升0.11,以少30%算力匹配最佳PESQ),并在STM32N6微控制器上量化到int8后测得动态增强器与静态模型落在同一延迟-质量前沿,配套Cortex-M55上策略每帧仅26微秒、拆分NPU图带来2.2%延迟开销。
已读完全部报道