跳到主要内容
检索

# Volterra网络

1 篇关联报道

订阅更新
  1. arXiv

    像素扩散不再靠注意力混合:Volterra 层在 ImageNet 各尺度上把 FID 压过 JiT

    像素空间扩散模型此前沿用从序列建模继承来的 softmax 注意力做 token 混合,而高斯噪声下的最优去噪器本可用观测的多项式泛函展开。PoD 把每个图像块压进低维瓶颈,再用级联的低秩 Volterra 层同时完成 token 混合与通道混合,残差路径上不放激活函数。在 ImageNet 上参数与 FLOPs 对齐时,PoD 在每个尺度上的 FID 都优于 JiT,最大差距出现在 G 尺度。

已读完全部报道