ED²：以双动态索引机制协同释放LLM的序列推荐潜力
核心概要
该工作提出端到端双动态（ED²）推荐系统，首次在基于LLM的序列推荐中采用双动态索引机制，将用户与物品的索引生成和序列推荐统一到同一LLM骨干流水线中联合优化，并配合多粒度token调节器（m-GTR）与面向高阶用户-物品交互模式的指令微调任务，在三个公开数据集上相比采用静态索引的SOTA LLM推荐系统平均提升19.62%的Hit-Rate与21.11%的NDCG。
Figure 1. Overview of a). User interaction sequence, b). Static item index based sequential recommender systems, and c). Dual dynamic index based sequential recommender system. W/O BP represents for without back-propagation.
arXiv深度剖析
提出首个采用双动态索引机制的LLM序列推荐系统ED²，把索引生成器与序列推荐器组装进统一的LLM骨干流水线并端到端联合优化。 既有LLM序列推荐多采用静态索引，索引生成与推荐过程分离、索引在推荐优化中保持冻结；ED²让索引与推荐器协同优化，从而把语义信息与协同信息融合进单一LLM骨干。 论文给出完整方法推导（公式1-11）与三数据集实验；表1显示ED²在Instruments、Games、Arts上各项指标均为最优且标注p<0.01的显著性，相比静态索引的SOTA LLM推荐系统平均提升19.56% Hit-Rate与21.11% NDCG。
设计多粒度token调节器（m-GTR），在索引级与token级构建对齐监督，提升LLM对动态索引token的理解能力。 以往LLM推荐仅依赖序列推荐微调来让模型理解索引token，而动态索引与LLM骨干同步优化会进一步拉大其与自然语言token的理解差距；m-GTR显式建立动态索引与其对应文本特征之间的对齐监督。 消融实验（表2）显示移除m-GTR后平均性能下降4.13%；参数敏感性分析（图4）表明性能对权重β₁、β₂不敏感（标准差小于9.7×10⁻⁴）。
构建关联用户集合并定制一系列指令微调任务，使LLM能够利用高阶用户-物品交互模式（用户共购模式与用户偏好模式）。 多数领先LLM序列推荐仅依赖物品相关信息（物品文本与交互物品序列），忽略用户相关信息；ED²引入用户动态索引分支与用户预测、评论/查询推断、画像总结等指令任务。 消融实验（表2）显示移除高阶模式利用任务后平均性能下降2.52%，且仅引入用户信息而无对应指令任务（w/o exploit）相比完全移除用户模块（w/o user）并未带来提升；ED²相比CLLM4Rec在Hit-Rate上高出72.80%、NDCG高出66.97%。
验证动态索引机制相对静态索引及LSH索引的普适优势，并给出索引长度与碰撞处理的工程方案。 论文不仅对比静态索引，还引入动态/静态LSH索引变体与3、5长度索引变体，说明动态索引的优越性与具体索引方法松耦合，并采用附加token的重哈希方式保证索引唯一性。 表3显示Static变体平均下降17.57%、S-LSH下降9.73%而D-LSH仅下降4.66%；3-ED²与5-ED²分别下降3.51%与2.51%；附录H报告实际碰撞率约3×10⁻⁴。
启示与展望
该结果面向以文本特征描述用户与物品、且交互序列可获取的序列推荐场景，实验在Amazon Product Review的三个类别（Musical Instruments、Video Games、Arts, Crafts and Sewing）上完成，数据规模约10K至45K物品、平均序列长度约8-9。方法适用于希望将索引生成与推荐联合优化、并引入用户侧信息的LLM推荐系统；索引长度设为4、每码本256个嵌入、共2048个索引token的配置在该数据量级下被验证为合适。
读者可继续关注：动态索引与LLM骨干同步优化时索引稳定性与训练收敛的相互作用；碰撞率随数据规模、模型架构与优化参数变化时的可控性；用户侧指令任务在用户文本特征稀疏或缺失场景下的适用性；以及该机制在更大规模、更长序列或非Amazon类数据集上的表现。原文为完整论文，图表与附录均已加载，但部分实现细节（如具体指令模板）以附录形式给出，需结合附录阅读。