跳到主要内容

研究进展

相关研究与后续进展

同一研究事件下的公开文章与后续进展。

arXiv

Transformer神经量子态在上下文学习下的泛化误差被证明随上下文样本数与网络深度反比下降,所需深度仅随系统规模线性增长

该工作为基于Transformer的神经量子态在上下文学习(ICL)下的泛化行为建立理论框架:证明存在一种Transformer架构,其逐点预测误差(MSE)随上下文样本数与网络深度反比下降,且达到该保证所需的深度仅随系统规模(连续系统的粒子数或离散系统的qudit数)线性增长;作者进一步将分析扩展到以秩一密度算子表示的完整量子态,在连续与离散域上给出受物理约束的MSE泛化界,并用数值模拟验证了理论预测的标度行为。