如何优化 GPU 训练速度
作者: cuiyong127创建于 2023年12月11日更新于 2025年2月27日
请问由于这个模型比较小，现在使用 3090 进行训练，GPU 利用率很低，大部分时间 GPU 利用率为 0，增加 batch size 也没有改善，反而占用了更多的 GPU 显存。应该是 CPU 或硬盘读写速度不够，请问有什么方法可以优化？
内容来源: Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB
请问由于这个模型比较小，现在使用 3090 进行训练，GPU 利用率很低，大部分时间 GPU 利用率为 0，增加 batch size 也没有改善，反而占用了更多的 GPU 显存。应该是 CPU 或硬盘读写速度不够，请问有什么方法可以优化？
内容来源: Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB