低成本推理卡选型

推理卡低负载时功耗依然不小，因为显存刷新、PCIe链路、基础供电这些“不动也花钱”的项目占了总功耗的大头，想省钱不能只盯核心频率，而要从P-state、显存供电和整机混部下功夫，算清账前别急着买卡，推理卡低负载时功耗高怎么办？先算清这笔账这段时间我在机房蹲了几次，发现一个有意思的现象：不少推理卡负载只有个位数……