跳到主要内容
检索

# 下降集预测任务

1 篇关联报道

订阅更新
  1. arXiv

    小Transformer学无限Coxeter群语言:注意力图样先提示两条词论命题,再由人证明

    一个单注意力层的小Transformer被训练来预测无限Coxeter群Ã₂中群元素的左、右下降集,也就是最短词可能的首字母与末字母集合。训练数据从随机词、约化词换到ShortLex正规形词后,测试准确率随结构增强而提高:随机词与约化词数据分别在某个长度处开始退化,而包含全部长度不超过36的1,998个ShortLex词的集合上未见退化。观察训练后模型的注意力图样,研究者提出并独立证明了关于右下降集与左下降集的两条词论命题。

已读完全部报道