大模型持续学习算法解析

大模型的终身学习并非让模型无限膨胀，而是通过参数高效微调与知识蒸馏，在保持原有能力不退化的前提下，低成本地适应新领域与新任务，很多人对“终身学习”存在误解，以为大模型像人类一样，每天自动吸收全网新闻就能变聪明，事实恰恰相反，如果直接让基础大模型持续全量训练，不仅算力成本高昂到无法承受，还会引发严重的“灾难性遗忘……