跳到主要内容
检索

Arijit Sehanobish

2 篇关联报道

订阅更新
  1. arXiv

    MLP线性化改用低次有理逼近:Qwen3-8B替换最后八个前馈层,参数少14%而吞吐更高

    多层感知机的线性化不再只靠多项式随机特征,而是用低次有理函数逼近激活函数,再借部分分式把每层拆成权重侧与输入侧可分离的内积。在合成拟合、视觉、三维与语言模型上,这一路线在同等特征预算下取得更低误差;压缩Qwen3-8B时替换最后八个前馈层可移除1.17B参数(占模型14%),解码吞吐从763.3升至809.6 token/s,推理与知识基准与未压缩模型大致持平。

  2. arXiv

    金融数据库里的整数键让通用Text-to-SQL掉到五成以下,FLINT用查表智能体补上这一环

    面向生产金融数据库的Text-to-SQL系统FLINT把自然语言问题落到具体表约束上,而不是只靠列名相似度匹配。通用系统在Spider、BIRD这类模式较浅、列值可读的基准上表现强,但金融库把概念存成不透明的整数键,简单查询也要多次连接,这些方法因此低于50%。FLINT用查表智能体解析概念、检索结构相似的查询模板,并沿外键链裁剪大模式,在两个共359道题的生产金融模式数据集上优于使用同一大模型的多种基线,并已部署在金融数据检索服务中。

已读完全部报道