数据加载训练瓶颈优化

数据加载成为训练瓶颈时，核心解法就是让数据管线的每一层都跑起来，用多进程并行和预取把等待时间抹平，模型训练时GPU空转、显存吃不满，根源不在于算力不够，而是数据供给跟不上，这个问题在CV、NLP、推荐系统的大规模训练里相当常见,搞明白优化方向比盲目加显卡更管用，先确认瓶颈到底在不在数据加载这段不少同学一看GPU……