GFlowNet不再预设生成顺序：校验和任务上五轮收敛四轮，均匀反向策略零轮
核心概要
GFlowNet按顺序逐个拼出离散对象，而顺序本身决定网络要学哪些条件分布。此前顺序多由预设或均匀反向策略固定，标准训练难以发现有用顺序。Learning-Order GFlowNet在不给顺序标注的情况下联合学习位置与符号，在校验和依赖任务上五轮中四轮收敛，均匀反向策略在训练预算内零轮收敛，固定随机顺序十轮中仅两轮。
深度剖析
生成顺序被当作可训练的对象，而不是训练前就固定的设定。GFlowNet从空状态逐个填入离散分量，反向策略决定擦除顺序，也就决定了前向生成顺序；此前这一顺序通常固定为均匀擦除或预设次序，或与正向策略联合学习但缺乏对学到何种顺序的刻画。 此前的工作没有系统检验现有GFlowNet算法是否会发现可解释的生成顺序，也没有说明这些顺序为何出现。 在专门构造的校验和依赖字符串上，固定顺序随交换次数增加而收敛变差，均匀采样的固定随机顺序十轮中仅两轮收敛，均匀反向策略在给定训练预算内零轮收敛。
训练配方让顺序在训练中自行浮现，并呈现出与问题依赖结构相符的形态。 做法是把前向策略分解为位置分布与符号分布两个头，对反向策略熵加惩罚以鼓励确定的擦除顺序，把两个顺序头的最后一层初始化为零并调低其学习率，还可从共享前缀分叉出多条延续。 在校验和依赖任务上，完整配方五轮中四轮收敛、平均约72900次迭代；去掉反向熵正则只剩一轮，去掉策略分解或降低顺序头学习率各为两轮，换回默认初始化则降为三轮、平均约88650次迭代。学到的顺序在马尔可夫链字符串上表现为就近连续生成，在校验和任务上表现为前缀符号提前生成。
梯度信噪比被提出来解释好顺序为何胜出。 此前没有说明训练为何会偏离随机顺序，因为即便在次优顺序下GFlowNet偶尔也能收敛。 在可比验证损失下，收敛的Learning-Order GFlowNet运行达到与恒等顺序相当的梯度信噪比，二者都高于交换次数更多的固定顺序；作者据此把好顺序刻画为在同等损失下给出更高梯度信噪比的顺序。
启示与展望
演示范围限于作者构造的合成任务：马尔可夫链字符串、字符串与有向无环图上的校验和依赖，以及两个简化难度下的条件数独；字符串实验使用长度12、字母表12的设定，图实验在4000张图上训练、500张未见图上评估。作者提出，后续需要在最优顺序随状态变化的受控问题上检验该方法，并说明在数独上尚未取得收敛优势。
作者把梯度信噪比解释为顺序涌现的可能机制，而非已确立的因果结论；在数独上，学到的位置策略未能达到求解器引导顺序的收敛优势，改用置信度选格可以提升正确率，但学习到能利用这一信息的顺序仍是未解问题。作者还指出，所构造问题的顺序偏好不随状态变化，与真实场景可能存在差距。