强化学习权重更新不再整包传输:ARCv3把BF16增量压到原体积约0.19%,跨区训练更跟得上策略
Fireworks发布ARCv3压缩器,用于把训练端发往 rollout 机器的BF16权重更新压成增量。此前跨区强化学习要反复传输完整检查点,或依赖ARCv2等压缩方案;ARCv3按权重变化的位级结构编码,只传尾数变化,把罕见的指数与符号变化单独打包。在1000个来自生产强化学习负载的权重更新增量上,ARCv3的平均载荷约为原始BF16权重的0.19%,低于ARCv2的0.36%,且重建结果与训练端逐位一致。