AI大模型训练能耗与费用

训练一个千亿参数级别的大模型，单次全量训练的电费成本通常在数百万至数千万人民币之间，具体数值取决于算力集群规模、训练周期及当地工业电价，且这仅是直接电力成本，尚未包含冷却、运维及硬件折旧等隐性开销，很多人对大模型（LLM）的认知还停留在“软件”层面，认为它像手机App一样，运行起来耗电量微乎其微，大模型训练是一……