# 张量网络压缩

作者提出激活感知权重张量化（AWT）：一种免训练、与求解器无关的校准期预条件方法，在标准 TT/TTN 分解前用激活导出的对角缩放对权重矩阵做等价重参数化，部署时仅需输入端逐元素缩放。在 Llama 3.1 8B、Ministral 8B、Qwen2.5 7B 上，AWT 在 2–6 倍压缩下一致优于原始张量化：单算子替换缩小 12–35% 的 WikiText 困惑度差距，Llama 多算子后缀替换缩小 27–60%，并迁移到 HellaSwag 与 ARC-Challenge。

作者提出激活感知权重张量化（AWT）：一种免训练、与求解器无关的校准期预条件方法，在标准 TT/TTN 分解前用激活导出的对角缩放对权重矩阵做等价重参数化，部署时仅需输入端逐元素缩放。在 Llama 3.1 8B、Ministral 8B、Qwen2.5 7B 上，AWT 在 2–6 倍压缩下一致优于原始张量化：单算子替换缩小 12–35% 的 WikiText 困惑度差距，Llama 多算子后缀替换缩小 27–60%，并迁移到 HellaSwag 与 ARC-Challenge。