语音识别算力配置方案
-
语音识别上线前要准备哪些算力?,算力不足怎么办
从并发估算到GPU选型的完整落地路径语音识别业务上线前的算力准备,核心就三件事:用峰值并发反推GPU数量,按实时流式与离线转写分开做容量规划,再预留1.5到2倍冗余并用真实音频压测验证,把这三步做完,采购或租用才不会拍脑袋,很多团队在模型效果调得差不多时才开始想算力,结果要么上线当天排队严重,要么买多了卡在机房……
从并发估算到GPU选型的完整落地路径语音识别业务上线前的算力准备,核心就三件事:用峰值并发反推GPU数量,按实时流式与离线转写分开做容量规划,再预留1.5到2倍冗余并用真实音频压测验证,把这三步做完,采购或租用才不会拍脑袋,很多团队在模型效果调得差不多时才开始想算力,结果要么上线当天排队严重,要么买多了卡在机房……