杭州深度学习推理显卡租赁坑

在杭州租用GPU服务器跑模型推理，核心结论是：别按训练思路选卡，推理吃的是显存带宽和延迟，租期按小时起步，配置够用就行，思路翻过来：推理和训练在杭州GPU租用市场是两个完全不同的需求做模型推理跟做训练,在GPU服务器上的讲究完全是两码事，训练怕算力不够，显卡算得越暴力越好，显存不够就多卡并行；推理怕卡顿，真正决……