PyTorch 2.15把重写的NCCL后端设为默认:集合通信卡住时,每个rank自动落盘现场
PyTorch 2.15把2.14中作为可选nccl2预览的重写NCCL后端设为所有nccl进程组的默认,并保留TORCH_DIST_USE_NCCL2=0与nccl-legacy两条回退路径。此前集群规模下单个GPU停滞就可能拖停整个训练,定位原因往往要靠手工复现;新版本加入与后端无关的飞行记录器,集合通信挂起时向磁盘写出事后现场,任一rank超时都会触发所有rank转储。
PyTorch 2.15把2.14中作为可选nccl2预览的重写NCCL后端设为所有nccl进程组的默认,并保留TORCH_DIST_USE_NCCL2=0与nccl-legacy两条回退路径。此前集群规模下单个GPU停滞就可能拖停整个训练,定位原因往往要靠手工复现;新版本加入与后端无关的飞行记录器,集合通信挂起时向磁盘写出事后现场,任一rank超时都会触发所有rank转储。
已读完全部报道