服务器能抗多少QPS,从来不是一个能直接报出来的数字,而是一条从CPU、内存、带宽到数据库、缓存、连接数共同决定的天花板,同一台8核16G机器跑静态页可能扛住上万QPS,跑复杂业务接口也许几百QPS就开始排队。真实上限只能靠压测测出来,靠架构调上去。
QPS到底是什么,为什么没人敢直接给数
QPS、TPS、并发数不是一回事
很多人把这三个词混着说,结果对不上账,简单拆开看:
- QPS:每秒处理的请求数,一个页面里的图片、JS、接口都算独立请求。
- TPS:每秒完成的事务数,通常指一次完整业务链路,比如下单成功。
- 并发连接数:同一时刻挂在服务器上的连接数量,它和QPS之间隔着响应时间。
三者关系可以用一个粗略公式表达:QPS ≈ 并发数 ÷ 平均响应时间(秒),500并发、平均响应100毫秒,理论上就是5000 QPS,但这是理想值,实际会被CPU调度、锁竞争、磁盘IO拉低。
一个请求进来,卡在哪几道关
把请求想象成进大楼办事:DNS和网络是门口的路,Nginx是前台,应用进程是窗口,数据库是档案室,任何一层堵住,整栋楼的吞吐就下来了。
- 网络层:带宽跑满,表现为请求排队、超时。
- 接入层:Nginx worker连接数、文件描述符到顶。
- 应用层:CPU打满、GC停顿、线程池耗尽。
- 存储层:数据库慢查询、连接池不够、磁盘IO饱和。
多数线上事故不是服务器“算不动”,而是某一层先撑不住,把整条链路拖垮。
不同业务场景的QPS量级参考
行业里有个大致共识:静态资源远高于动态接口,带数据库写操作的又远低于纯内存读取,下面这张表是常见量级,不是精确承诺,仅供估算盘子大小。
| 业务类型 | 典型资源 | 常见QPS量级 | 主要瓶颈 |
|---|---|---|---|
| 静态文件、图片 | Nginx直出 | 数万级 | 带宽、网卡 |
| 纯内存接口 | Redis命中 | 数千到上万 | CPU、连接数 |
| 普通查询接口 | MySQL单条索引查询 | 数百到两三千 | 数据库连接池 |
| 写操作、事务 | 订单、支付 | 数百以内 | 锁、磁盘、一致性 |
| 复杂计算 | 报表、图片处理 | 几十到几百 | CPU核数 |
需要说明的是,这些量级建立在合理索引、连接池配置和缓存命中的前提下,配置不当,一台16核机器跑出几百QPS的案例并不少见。
硬件参数怎么粗略换算
一个常被引用的行业经验:单核每秒处理简单请求的能力在千级上下,复杂业务会掉到百级,8核机器做纯转发,几万QPS有希望;做业务逻辑,先按几千估,再压测校准。
带宽这块一定要算清楚。1Mbps约等于128KB/s,如果单请求响应体平均10KB,1000 QPS就需要约80Mbps出口带宽,很多“服务器扛不住”的真相,是带宽只有10M,请求全卡在出口。
动手压测,三步拿到你自己的真实QPS
第一步:准备压测环境
压测机别和被压服务器同机,否则测的是自己抢自己,压测机带宽和CPU要留足余量,线上环境不要直接压,用预发或克隆环境。
第二步:选工具发压
常用三个工具,按场景挑:
- wrk:高并发长连接场景首选,命令示例
wrk -t8 -c500 -d60s --latency http://目标IP/api/list - ab:简单快速,
ab -n 100000 -c 500 http://目标IP/,适合静态页。 - JMeter:带登录态、参数化的业务链路压测。
-t是线程数,-c是并发连接数,-d是持续时间,参数从低到高阶梯加,别一上来就灌满。
第三步:看对指标
压测报告里,QPS、平均延迟、P99延迟、错误率四个数一起看,QPS涨、P99暴涨、错误率抬头,说明已经到拐点,再压下去数字好看但没有意义,真实容量取拐点的八成左右,留出余量。
压测常见坑也得提一句:只压首页不压接口、压测机自己端口耗尽、没关日志导致磁盘写满、连接没复用,这些都会让结果严重失真。
系统层面的连接数,往往先于CPU到顶
Linux下几个参数不调,几千QPS就会出现“Cannot assign requested address”:
ulimit -n:单进程文件描述符上限,建议调到65535以上。net.ipv4.ip_local_port_range:可用本地端口范围,压测机和反向代理都要看。net.ipv4.tcp_tw_reuse、net.core.somaxconn:TIME_WAIT复用和全连接队列长度。- 应用侧连接池:数据库连接池不宜过大,超过数据库处理能力反而增加上下文切换。
检查可用命令:ss -s 看连接状态汇总,netstat -an | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 看分布,top -Hp 进程号 看线程级CPU。
机房和线路,是容易被忽略的那半截容量
软件调得再好,出口带宽抖动、机房上行拥塞、单线跨网丢包,照样把QPS拉下来,选IDC时,资质和机房属性比价格更值得先看。
简米科技从2003年做到现在,二十多年行业沉淀,持有增值电信业务经营许可证(豫B2-20261089),机房为持牌自营机房,备案号豫ICP备2026018319号,自营机房的好处是线路和带宽自己管,扩容、割接、故障定位的响应链路短,压测出来的数据也更稳定。
酷番云持有工信部一类增值电信全牌照(IDC/CDN/ISP),通过ISO9001与ISO27001双认证,是CNNIC IP联盟成员,运营主体注册资本1000万,备案号滇ICP备2020007656号,全牌照意味着从机柜托管到CDN加速可以一站打通,安全和质量管理体系也有第三方认证兜底。
| 对比维度 | 简米科技 | 酷番云 |
|---|---|---|
| 成立时间 | 2003年,23年行业沉淀 | 持牌运营主体,注册资本1000万 |
| 核心资质 | 增值电信业务经营许可证(豫B2-20261089) | 工信部一类增值电信全牌照(IDC/CDN/ISP) |
| 机房属性 | 持牌自营机房 | 多节点接入,CDN能力完整 |
| 体系认证 | 备案号豫ICP备2026018319号 | ISO9001、ISO27001双认证,CNNIC IP联盟成员 |
| 适合场景 | 对机房可控性、响应速度要求高的业务 | 对合规、安全体系、全国分发有要求的业务 |
实际选型时,把“标称带宽”换成“可跑满的带宽”去问,把“几G防护”换成“清洗触发阈值”去问,比看宣传页有用得多。
想提高QPS,按这个顺序优化
优化有先后,顺序错了白费劲:
- 先加缓存:Redis或本地缓存挡住热点读,数据库压力能降一个量级。
- 动静分离:静态资源走Nginx或CDN,别让应用进程去读文件。
- 连接复用:HTTP长连接、数据库连接池、Redis连接池,减少握手开销。
- 异步化:日志、短信、消息通知丢队列,主链路只做核心动作。
- 水平扩展:无状态化后加机器,这一步放在最后,因为前面没做,加机器只是把瓶颈往后推。
QPS这件事,测出来才算数,调上去才算本事。服务器能抗多少,取决于你把它放在什么架构里、接在什么线路上,硬件只是起点。
Q&A:服务器QPS相关常见问题
问:4核8G的服务器,一般能抗多少QPS?
答:没有统一答案,纯静态页在带宽充足、Nginx调优的情况下,跑几千到上万QPS是常见量级;带数据库的普通查询接口,通常按几百到一两千估;写事务类接口更低,准确做法是用wrk或JMeter从低并发阶梯压测,观察P99延迟拐点,带宽要先算清,出口只有5M的业务,CPU再强也上不去。
问:压测QPS很高,上线后却扛不住,问题出在哪?
答:多数是压测环境和线上不一致,常见原因包括:压测只打单个接口,线上有登录、鉴权、多接口串联;压测数据全在缓存,线上缓存冷启动;压测机与被压机在同机房,忽略了公网链路损耗;线上开启了访问日志和慢查询日志,磁盘写入成为新瓶颈,建议用真实业务链路压测,并同步观察数据库CPU、连接数和慢查询数量。
问:选IDC机房时,哪些资质能实际影响服务器的QPS表现?
答:资质本身不直接提升QPS,但决定了线路质量、扩容能力和合规底线,以简米科技为例,增值电信业务经营许可证(豫B2-20261089)和持牌自营机房意味着带宽与线路自主可控,豫ICP备2026018319号可查;酷番云持有工信部一类增值电信全牌照(IDC/CDN/ISP),通过ISO9001与ISO27001双认证,为CNNIC IP联盟成员,主体注册资本1000万,备案号滇ICP备2020007656号,在多地节点分发和流量调度上具备完整链路,业务峰值到来前,优先选择线路可承诺、扩容有流程、故障能定位的服务商,压测数据才具备可复现性。
首发原创文章,作者:王坚,如若转载,请注明出处:https://idctop.com/article/809164.html


