G²PTQ 在量化每个 Transformer 块前刷新梯度与 Hessian，2-bit 下把 KL 散度较 GPTAQ 减半并提升 6.45% 问答准确率
该工作提出 G²PTQ，一个在全局监督的块级目标下同时利用一阶与二阶信息的训练后量化框架：它在量化每个 Transformer 块之前重新计算梯度与 Hessian 估计以避免陈旧，并用信赖域缩放约束精确一阶补偿步长，在 0.6B 至 125B 的 13 个稠密模型与 2 个 MoE 模型、2/3/4-bit 权重及 4-bit 权重-激活设置下取得比 GPTQ、GuidedQuant、GPTAQ 等基线更低的 KL 散度与更高的下游问答准确率。