vLLM是否支持AWQ量化

vLLM通过集成AWQ量化技术，能在保持模型精度几乎无损的前提下，显著降低显存占用并提升推理吞吐量，是部署大语言模型时兼顾性能与成本的最优解之一，在2026年的AI应用落地场景中,企业面临的不再是“能不能跑大模型”的问题，而是“如何低成本、高效率地跑大模型”，vLLM作为当前主流的推理引擎，其对AWQ（Acti……