Jinane Bazzi

这篇综述系统梳理了面向语言模型的混合精度量化框架（MXPLMs），先回顾量化基础（均匀与非均匀量化器、量化粒度、训练后量化方法），再按比特分配策略以及权重、激活与键值缓存的精度配置对近期框架进行分类比较，并对比早期深度神经网络混合精度方法，指出可迁移的策略与在语言模型场景中面临挑战的策略，最后总结硬件感知设计、激活量化与十亿参数级模型可扩展优化等开放问题。

这篇综述系统梳理了面向语言模型的混合精度量化框架（MXPLMs），先回顾量化基础（均匀与非均匀量化器、量化粒度、训练后量化方法），再按比特分配策略以及权重、激活与键值缓存的精度配置对近期框架进行分类比较，并对比早期深度神经网络混合精度方法，指出可迁移的策略与在语言模型场景中面临挑战的策略，最后总结硬件感知设计、激活量化与十亿参数级模型可扩展优化等开放问题。