跳到主要内容
检索

# 离散变换

1 篇关联报道

订阅更新
  1. 固定变换不必再靠猜:自适应插值变换让视觉模型只加九个参数、语言模型每层加三个参数就超过固定变换基线

    离散傅里叶变换、离散余弦变换等固定变换常用于机器学习特征提取,但选哪一种往往要先了解数据集性质,缺少这类知识时效果受限。自适应插值变换(AIT)把变换本身变成可学习参数,按数据集与任务学出数据驱动的映射。在ImageNet-2012与通用语言理解评估任务上,AIT增强的模型在从零训练和微调两种流程下都超过固定变换基线,视觉模型只增加九个参数,语言模型每个编码器层只增加三个参数。

已读完全部报道