低秩分解在AI中的应用

大模型低秩分解（Low-Rank Decomposition）是一种通过数学近似手段，将庞大且稠密的全连接矩阵拆解为两个或多个较小秩的矩阵乘积的技术，其核心目的在于大幅降低模型参数量与计算成本，同时尽可能保留原始模型的核心推理能力，想象一下,你手里有一本厚达千页的百科全书，现在你需要把它塞进一个口袋里的U盘，但……