大模型稀疏化Sparsification

大模型稀疏化（Sparsification）是一种通过移除神经网络中冗余参数或激活值，从而降低模型存储体积、减少计算量并提升推理速度的技术，其核心在于“去粗取精”，在保持模型性能基本不变的前提下实现轻量化，想象一下,你面对一个装满杂物的巨大仓库，其中大部分物品其实很少用到，甚至从未被打开过，大模型稀疏化就像是一……