显存带宽算力匹配

显存带宽与算力比值，决定你GPU实际效率的隐藏标尺显存带宽与算力比值（Bytes/FLOPs）是衡量GPU能否充分“喂饱”计算核心的关键指标，比值过低则算力闲置，过高则显存浪费，多数深度学习场景下，这个比值在0.35到0.8之间运行时能效最佳，很多人买显卡只看显存大小和FP16算力,结果跑大模型时发现利用率上不……