AI服务器GPU选型建议

一台服务器要多少显卡，答案取决于你的业务场景：跑推理2到4张够用，跑训练8张起步，做渲染4到8张是常态，先搞清楚：你的服务器买显卡是为了干什么？这个问题不问清楚,谈数量就是耍流氓，同样是“GPU服务器”，跑AI推理和跑3D渲染的配置逻辑完全不同，预算差距能到十倍以上，AI推理：数量少，显存大推理是训练好的模型……