一个有趣的事情

目前我配置的环境是按照版本要求的：Python=3.9 torch=2.0.1 cuda=11.3 gpu=2张3090 ubuntu20 我发现单卡训练时没有报错，而双卡训练时，我的batch最大正常训练数量是64。无论我选择amp=true or false，再大的batch都会报错 RuntimeError: CUDA error: device-side assert triggered CUDA kernel errors might be asynchronously reported at some other API call, so the stacktrace below might be incorrect. For debugging, consider passing CUDA_LAUNCH_BLOCKING=1. 使用 `TORCH_USE_CUDA_DSA` 来启用设备侧断言