长谷川靖与大关真之在固定模型、采样器与步长下比较 Ising 与 QUBO 编码,发现 QUBO 的 Fisher 信息谱熵更低、SGD 收敛更慢,而自然梯度下降使两种编码收敛趋同
该研究在固定玻尔兹曼机模型、模拟退火采样器与学习率设计的受控协议下比较 Ising({−1,+1})与 QUBO({0,1})两种变量编码,利用 Fisher 信息矩阵等于充分统计量协方差这一恒等式可视化经验矩,发现 QUBO 在一阶与二阶统计量之间产生更大的交叉项,使 Fisher 信息矩阵出现更多小特征值方向并降低谱熵,从而解释了随机梯度下降下 QUBO 收敛更慢,而按 Fisher 信息矩阵度量重标定更新的自然梯度下降因重参数化不变性使两种编码收敛相近。