跳到主要内容
检索

# 状态跟踪

1 篇关联报道

订阅更新
  1. arXiv

    把KDA的门改成可正可负后,单层CKDA能跟踪有限群并外推周期波形,1.3B模型下游精度与KDA持平

    该工作提出Complex KDA(CKDA):在Kimi Delta Attention基础上同时放开门控符号(gate entries in {−1,+1})与delta-rule系数范围(β∈[0,2]),使单次对角加秩一转移即可实现二维旋转;作者证明每个正交对角加秩一矩阵都恰是一个CKDA转移,单层CKDA可跟踪同构于O(2)子群的有限群、多层结果比同类对角加秩一线性RNN少用一层,并在群词问题、周期音频续写与语言建模上给出实验。

已读完全部报道