服务器配的显卡主要有NVIDIA数据中心GPU（如A100、H100、L40S、T4）、AMD Instinct（MI250、MI300）、Intel数据中心GPU以及国产昇腾、寒武纪、海光等计算卡，具体选哪款取决于训练、推理、虚拟化还是科学计算场景。 服务器显卡不是插上就能跑，功耗、散热、驱动、生态都得对得上，下面按型号、区别、选型和实操拆开说。
服务器配的显卡有哪些型号？主流数据中心GPU盘点
NVIDIA数据中心GPU：训练与推理分两条线
NVIDIA在服务器显卡市场占据主导,型号按用途分得很细。
- 训练卡：A100、H100、H200、B200，H100有SXM和PCIe两种形态，SXM用NVLink互联，PCIe版更方便通用服务器，A100有40GB和80GB版本,80GB版显存带宽更高。
- 推理卡：T4、L4、A10、A30，T4功耗低，适合视频转码和轻量推理；L4是T4的升级，24GB显存,支持FP8精度。
- 图形与虚拟化：A16、A40、L40、L40S，A16适合云桌面,L40S兼顾图形渲染和AI推理。
| 型号 | 显存 | 功耗 | 典型场景 |
|---|---|---|---|
| A100 80GB | 80GB HBM2e | 300-400W | 大模型训练 |
| H100 80GB | 80GB HBM3 | 350-700W | 千亿参数训练 |
| L40S | 48GB GDDR6 | 350W | 推理+渲染 |
| L4 | 24GB GDDR6 | 72W | 视频推理 |
| T4 | 16GB GDDR6 | 70W | 轻量推理 |
| A40 | 48GB GDDR6 | 300W | 虚拟化 |
AMD Instinct与Intel数据中心GPU
- AMD：MI100、MI200系列（MI210、MI250、MI250X）、MI300系列，HBM显存，适合HPC和AI训练，ROCm生态在进步,但CUDA迁移仍有工作量。
- Intel：Ponte Vecchio（Max系列）、Flex 170/140，Flex系列偏推理和媒体处理,价格相对友好。
- 行业共识认为，NVIDIA在AI训练生态上仍占主导,AMD和Intel在特定场景和成本敏感项目中有机会。
国产服务器显卡有哪些品牌？适配与生态现状
国产卡在信创和特定行业项目中越来越常见。
- 华为昇腾：910B训练，310推理，CANN软件栈，支持PyTorch、TensorFlow适配。
- 寒武纪：思元370、思元590,Neuware工具链。
- 海光DCU：Z100、K100，兼容类CUDA环境,迁移成本相对低。
- 其他：天数智芯、壁仞、摩尔线程,多数用于信创和特定行业。
- 选国产卡要问清楚：框架支持列表、算子覆盖度、是否支持FP16/BF16、有没有整机厂商认证。
服务器显卡的接口与形态：PCIe、SXM、OAM
- PCIe：通用插槽，方便升级，带宽受限,适合推理和中小规模训练。
- SXM：NVIDIA专用模块，通过NVLink互联,适合8卡训练服务器。
- OAM：开放计算模块,AMD和国产卡常用。
- 选择取决于服务器主板和背板,买卡前先看服务器支持哪种形态。
服务器显卡和普通显卡有什么区别？场景、价格与采购对比
物理形态：被动散热、无视频输出、涡轮或零风扇
- 服务器卡多数是被动散热，靠机箱强风流，普通游戏卡自带风扇,直接塞进服务器容易积热。
- 服务器卡通常没有HDMI/DP接口，纯计算,普通卡有显示输出。
- 供电接口：服务器卡常用CPU 8pin或专用线，部分H100用12VHPWR，普通卡用PCIe 8pin。
驱动与生态：CUDA、ROCm、CANN
- NVIDIA服务器卡用Data Center Driver，普通卡用Game Ready,混用可能出问题。
- 服务器卡支持ECC、vGPU、NVLink,普通卡部分支持ECC但vGPU受限。
- 命令验证：
nvidia-smi -q | grep -i eccnvidia-smi topo -mlspci | grep -i nvidia
服务器显卡价格一般多少钱？新卡与租赁成本
- 价格跨度大，推理卡如T4、L4，单卡几千到一万多；训练卡A100/H100单卡几万到几十万，具体看显存、形态、渠道。
- 二手市场有V100、P40、T4等，价格更低,但要注意矿卡和保修。
- 租赁：按小时或按月，推理卡每小时几元到十几元，训练卡每小时几十元到上百元，北京上海深圳等数据中心密集区域,租赁和二手交易更活跃。
- 采购建议：先明确算力需求、显存需求、预算,再选卡。
场景对比：训练、推理、虚拟化怎么选
- 大模型训练：优先H100/H800、A100、昇腾910B,看NVLink和HBM带宽。
- 推理服务：T4/L4/A10、寒武纪370,看吞吐和延迟。
- 云桌面/虚拟化：A16/A40/L40,看vGPU授权和并发数。
- 科学计算：AMD MI250、V100,看FP64性能。
- 业内专家指出，服务器显卡选型不能只看算力峰值,还要看显存带宽和互联能力。
服务器显卡选型实操：从机箱到驱动
硬件兼容性检查
- 机箱空间：GPU长度、厚度、高度。
- 供电：整机电源功率，GPU供电线数量，H100 SXM需要专用底板。
- 散热：被动卡需要服务器风流,环境温度别太高。
- 插槽：PCIe 4.0 x16，多卡看PCIe Switch和拓扑。
- 命令：
dmidecode -t slotlspci -vv | grep -i nvidiaipmitool sdr type temperature
驱动与CUDA安装
- Ubuntu：
sudo apt updatesudo apt install nvidia-driver-550sudo apt install nvidia-cuda-toolkit（或官方runfile）
- 验证：
nvidia-sminvcc --version
- 国产卡：昇腾装CANN，海光装DCU驱动，寒武纪装Neuware,按官方文档走。
多卡并行与NVLink配置
- 检查拓扑：
nvidia-smi topo -m - 开启NVLink：
nvidia-smi nvlink -s - NCCL测试：
./build/all_reduce_perf -b 8 -e 128M -f 2 -g 8 - 注意：PCIe版多卡通信走PCIe，SXM版走NVLink,性能差距明显。
不同场景下的服务器显卡推荐
AI训练集群
- 8卡H100/H800 SXM，配NVSwitch，预算有限选A100 80GB。
- 国产替代：昇腾910B集群,适合信创项目。
推理与边缘服务器
- T4/L4/A10，功耗低，单宽或双宽,边缘场景选L4。
- 国产：寒武纪思元370。
虚拟化与云桌面
- A16、A40、L40,注意vGPU授权费用。
科学计算与渲染
- AMD MI250、NVIDIA V100/A100,看FP64和显存带宽。
服务器配的显卡采购与地域差异
- 北京、上海、深圳数据中心多，服务器显卡供应链成熟，整机厂商和代理商集中,中西部项目可能更依赖远程支持和国产卡。
- 采购渠道：原厂、OEM整机、代理商、二手市场，原厂卡保修好,二手卡价格低但风险高。
- 租赁模式：适合短期项目，按需付费,避免一次性大额投入。
- 注意：部分高端卡受出口管制影响，国内有特供型号如H800、A800,采购前确认合规。
服务器配的显卡Q&A：型号、区别与替代方案
服务器配的显卡有哪些必须支持ECC？
数据中心计算卡普遍支持ECC显存，能纠正单比特错误，普通游戏卡部分支持，但开启后性能有影响,生产环境建议选支持ECC的卡。
服务器显卡和普通显卡有什么区别？能混用吗？
可以混用，但驱动版本要统一，散热和供电要单独评估，混用可能导致CUDA版本冲突或vGPU不可用,生产环境不建议。
国产服务器显卡有哪些可以替代A100？
昇腾910B、海光DCU K100、寒武纪思元590等常被拿来对比，替代前要验证框架适配、算子覆盖和实际吞吐，据工信部数据，国内算力芯片生态正在完善,但迁移成本因项目而异。
服务器显卡选型没有万能答案，先看场景再看预算，最后确认机箱、供电和生态，把型号、区别、价格和实操检查做一遍,基本就能定下来。
首发原创文章，作者：王坚，如若转载，请注明出处：https://idctop.com/article/714745.html
