计算存储分离落地经验

存储与计算分离架构在训练场景的落地，核心结论是：训练阶段越靠近“数据准备”和“模型保存”，存储与计算分离的价值越大；越靠近“微批次计算”，本地缓存越必要，主流做法是构建“远端大容量共享存储+近端高速缓存”的混合架构，这套架构不是非此即彼的选择题,训练任务的数据流存在明显的冷热分层：热数据是当前迭代正在读取的样本……