序列模型不再只记一个隐状态：按语义相似度选历史延迟，IMDB准确率95.35%

序列模型多了一条显式的回看通道：当前状态更新时，会按语义相似度从历史状态里取一段加权上下文，而不是把所有历史压进一个隐状态。 此前的循环网络与LSTM把全部时间步压缩进单个隐状态，Transformer对所有词元不加区分地做注意力且代价随长度平方增长，Mamba一类状态空间模型把历史压进固定维状态，都没有可内容寻址的记忆。 在IMDB情感分类上，该模型以2.6M参数取得95.35%准确率，同表LSTM为89.90%、Mamba为83.00%、RoBERTa-base为94.13%、DistilBERT-base为92.13%。

回看多远由语义决定：模型对当前词向量与窗口内每个历史词向量算余弦相似度，再用时间衰减压低久远历史，得到每个延迟的权重。 延迟不再是一个固定超参数，而是随输入变化的量；相似度经sigmoid归一化后给出语义置信度，硬选择取超过输入相关阈值的最小延迟，软选择则对全部延迟做注意力加权，使端到端训练可行。 在十词例句上，当最大延迟设为10时，位置3的“amazing”最多回看前10个历史词，可视化显示“movie”对“amazing”的影响最大；随最大延迟增加，分类准确率总体上升但伴随波动。

状态递推被写成对角线性递推，展开后是闭式累加和，因此不需要逐步循环，每步复杂度为O(1)。 此前循环结构必须顺序推进，注意力则要两两比较全部词元；这里把状态转移矩阵限制为对角，用逐元素累加和一次算完整条序列。 在CNN/DailyMail摘要生成上，该模型以16.98M参数取得42.63的ROUGE-L，同表LSTM为38.45、BERT为40.48、Mamba为29.60、BART CNN-large为24.58、T5-base为23.54。

报道覆盖的是文本分类与文本生成两类任务：IMDB情感分类使用全部25,000条训练与25,000条测试样本，CNN/DailyMail摘要生成使用80,000条训练、各2,000条验证与测试。模型配置为隐藏维度256、最大语义延迟30、6条模糊推理规则，在单张Nvidia H100 80G上以PyTorch训练。作者提出该框架有潜力用于图像与音频处理与生成，但未给出这类实验。

作者指出，由于基准实验数量有限，模型的更广泛泛化性尚未得到检验，并且模型对超参数调优更敏感。理论部分给出的存在唯一性、有界性与稳定性结论都建立在Lipschitz连续、输入有界、相似度取值在0到1之间等假设之上。