南京AI训练卡采购成本考量

在南京挑AI训练卡，核心就一句话：先把模型的参数规模、序列长度、是否多卡并行搞清楚，再对照显存带宽和NVLink互联需求选型号，最后用南京本地的租赁或二手渠道压成本，按业务负载倒推硬件需求很多团队买卡翻车，不是因为预算不够，而是先看价格再看算力，正确顺序应该是业务负载、显存占用、卡间通信、预算，先分清训练、微调……