冷温热数据分层存储方案
-
模型仓库冷温热数据分层存储怎么取舍,有哪些方案?
按访问频率把数据拆成热、温、冷三层,热层用高性能介质,冷层用低成本对象存储,温层卡在中间,这样既能压住成本,又不拖累训练和推理速度,实际维护模型仓库的时候,你会发现所有数据都长一个样,但它们的「命」不一样,有些每天被拉出来反复训练、调参,有些只是躺在那里等一个可能永远不回来的回滚请求,如果一视同仁用SSD伺候……
按访问频率把数据拆成热、温、冷三层,热层用高性能介质,冷层用低成本对象存储,温层卡在中间,这样既能压住成本,又不拖累训练和推理速度,实际维护模型仓库的时候,你会发现所有数据都长一个样,但它们的「命」不一样,有些每天被拉出来反复训练、调参,有些只是躺在那里等一个可能永远不回来的回滚请求,如果一视同仁用SSD伺候……