torch.distributed.DistBackendError: NCCL 在 ../torch/csrc/distributed/c10d/ProcessGroupNCCL.cpp:1333 处出错,远程进程退出或发生网络错误, NCCL 版本 2.18.6
作者: Rainbowman0创建于 2024年1月8日更新于 2025年4月24日
Hi, I successfully ran the 'cifar10_deepspeed.py' example on a single node (2xNVIDIA 3090). Now I want to run the same program on multi-nodes (2 nodes each have 2 3090s.). I refer to the example here to run my program.
内容来源: deepspeedai/DeepSpeedExamples