大模型个人电脑半年真实体验

大模型个人电脑好用吗？用了半年说说感受半年前,我将一台搭载RTX 4090 + Ryzen 9 7950X + 128GB RAM的自建工作站投入大模型本地推理与微调实战，至今累计运行Llama-3-70B、Qwen2-72B、Mistral-NeMo等12个主流开源模型超2000小时，结论先行：大模型个人电脑……