跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

HyperThink 用超网络把长思维链压缩成一次参数更新,在低延迟区间提升数学与通用推理表现

HyperThink 提出一种文本到参数的方法:轻量超网络读取问题并预测基础大模型一小部分参数的更新,向量量化解码器把这些更新约束为有限的可复用模式,端到端在基础模型自身输出上训练;测试时一次超网络前向即可让适配后的模型直接生成简洁的分步解答与最终答案,不再产生中间思维链,用更少 token 保持较强推理性能,并在数学与通用推理任务的准确率—延迟权衡中改善低延迟区间,在接近非思考的区间增益最强。