跳到主要内容
检索

# 有理线性化多层感知机(RaLiMP)

1 篇关联报道

订阅更新
  1. arXiv

    MLP线性化改用低次有理逼近:Qwen3-8B替换最后八个前馈层,参数少14%而吞吐更高

    多层感知机的线性化不再只靠多项式随机特征,而是用低次有理函数逼近激活函数,再借部分分式把每层拆成权重侧与输入侧可分离的内积。在合成拟合、视觉、三维与语言模型上,这一路线在同等特征预算下取得更低误差;压缩Qwen3-8B时替换最后八个前馈层可移除1.17B参数(占模型14%),解码吞吐从763.3升至809.6 token/s,推理与知识基准与未压缩模型大致持平。

已读完全部报道