低精度训练显存节省

低精度训练能在不更换硬件的情况下，同时降低显存占用并提升计算吞吐，是当前大模型微调和推理部署中最具性价比的显存优化手段，如果你正在为显卡显存不足而烦恼，或者觉得训练速度慢得让人心焦，那么这篇文章就是为你准备的，我们会把低精度训练这个技术掰开揉碎，看看它到底是怎么在显存和算力这两件事上“两头通吃”的，也会聊聊实际……