异构GPU统一接口

推理网关屏蔽GPU异构差异的核心思路，是把“模型服务”和“底层硬件”彻底解耦——上层只认统一的推理接口，下层用网关做路由、适配和动态分配，这种架构在2026年的大模型落地场景里几乎成了标配,原因很简单，没有哪个团队愿意被某一家GPU厂商绑定，但真把A卡、H卡、国产卡混在一个集群里用的时候，问题远比想象的多，推理……