在模型训练中有时会发现，即使使用了GPUGPU利用率也不高，训练速度还是不够快
所以，简单记录一下提高思路
GPU利用率低的可能原因
- CPU数据读取更不上：
CPU作为中央控制器咜有时钟概念，也有多线程它的多任务同时运作机制 与 GPU
这样只负责计算的元件不同，CPU可能同时有其他任务导致速度变慢
提高 GPU 占用率的幾个思路：
-
优化网络图，优化单位batchsize的显存占用量这样就可以装下更多的batchsize，来更充分的利用GPU core等
- 减少CPU其他任务的占用：减少其他读写任务等
