大模型压缩方法有哪些

大模型压缩的核心方法主要包含模型剪枝、知识蒸馏、量化以及低秩自适应微调，它们通过减少参数数量、降低精度或提取核心知识，在保持性能的同时显著降低存储和计算成本，随着生成式人工智能从实验室走向工业级落地,动辄数百GB的模型体积成为了部署的拦路虎，无论是想在边缘设备上运行，还是希望降低云端推理的算力开销，压缩技术都是……