如何优化GPU训练速度
Author: cuiyong127Created Dec 11, 2023Updated Feb 27, 2025
请问由于这个模型比较小，现在采用3090训练，GPU利用率很低，大部分时间GPU利用率为0，加大batch size 也没有改善，反而占用了更多的GPU显存。应该是cpu或者硬盘读写速度不够，请问有什么方式可以优化？
Source: Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB
请问由于这个模型比较小，现在采用3090训练，GPU利用率很低，大部分时间GPU利用率为0，加大batch size 也没有改善，反而占用了更多的GPU显存。应该是cpu或者硬盘读写速度不够，请问有什么方式可以优化？
Source: Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB