服务器吞吐量没有一个通用数值,单机从几百 QPS 到数万 QPS 都属于常见范围,真正决定它的是带宽、CPU、磁盘 IO 与业务代码四者中的短板。 想拿到可靠答案,只有一条路:明确口径,然后实测。
先弄清楚”吞吐量”到底在问什么
三种口径经常被混用
- 网络吞吐量:网卡每秒能过多少字节,单位 Mbps 或 Gbps,通常由带宽上限决定。
- 请求吞吐量:应用每秒能处理多少请求,单位 QPS 或 RPS,受 CPU、连接数、后端依赖影响。
- 数据吞吐量:存储层每秒读写多少 MB,单位 IOPS 或 MB/s,由磁盘类型和文件系统决定。
三者不是一回事,一台 100Mbps 带宽的主机,理论下载峰值约 12.5MB/s,这时候说它”吞吐量 100 兆”,说的是网络;而它跑一个简单静态页,QPS 可能只有几百,混着讲,讨论就失去意义。
为什么问不出一个标准答案
同一台 8 核 16G 的机器,跑 Nginx 静态页能到上万 QPS,跑一段带数据库联表的业务代码可能只剩几百 QPS,据行业公开的压测白皮书与主流云厂商性能测试文档,应用层单机吞吐量的差异,多数情况下并不来自硬件,而来自连接模型和 SQL 质量。
所以正确的问法是:在什么带宽、什么配置、什么业务场景下,吞吐量是多少。
从带宽反推:最容易被忽略的一道算术
一个必须记住的换算
带宽单位是 bit,文件单位是 Byte,中间差 8 倍。
- 10Mbps ≈ 1.25MB/s
- 100Mbps ≈ 12.5MB/s
- 1Gbps ≈ 125MB/s
一个页面如果 500KB,100Mbps 出口理论上每秒只能服务 25 个完整页面请求,这就是为什么很多站点 CPU 占用很低,用户却觉得慢瓶颈在出口带宽,不在服务器本身。
用 iperf3 现场验证带宽
在两台机器上分别执行:
# 服务端 iperf3 -s # 客户端,跑 30 秒,4 个并发流 iperf3 -c 服务端IP -t 30 -P 4
结果里的 Bitrate 就是实际链路吞吐,如果实测值长期只有标称带宽的六七成,优先怀疑线路质量、限速策略或者中间设备。
应用层吞吐量:压测怎么做才算数
选对工具
- wrk:短小精悍,适合 HTTP 接口,支持脚本扩展。
- ab:Apache 自带,适合快速摸底。
- fio:专测磁盘,看 IOPS 和延迟分布。
- jmeter:复杂业务流程,带参数化和断言。
一个典型的 wrk 压测:
wrk -t4 -c200 -d60s --latency http://目标域名/api/list
-t4 是 4 个线程,-c200 是 200 个长连接,-d60s 压 60 秒,看结果时别只盯 Requests/sec,延迟的 P99 比平均值更有参考价值,平均 20ms、P99 800ms 的服务,用户体感依然是卡。
磁盘吞吐用 fio
fio -name=randread -ioengine=libaio -direct=1 -rw=randread \
-bs=4k -size=1G -numjobs=4 -iodepth=32 -runtime=30 -group_reporting
4K 随机读的 IOPS 是最能反映数据库盘素质的指标,机械盘通常在百级别,SATA SSD 在万级,NVMe 能到几十万级这也是为什么同一份代码换块盘,吞吐量能差出一个数量级。
调优的几个真实动作
- 提高连接队列:
sysctl -w net.core.somaxconn=65535 - 开启 TIME_WAIT 复用:
net.ipv4.tcp_tw_reuse=1 - 静态资源交给 Nginx 或 CDN,别让应用服务器扛
- 数据库加索引、减少联表,这一步的收益往往大于换硬件
机房和线路,决定了吞吐量的天花板
带宽类型不是文字游戏
同样是”100M 带宽”,独享和共享、单线和多线、普通公网和 BGP 精品线路,实际可用吞吐差别很大,晚高峰时共享带宽跑不满标称值,这是行业里公开的现象。
选择持牌自营机房的 IDC 服务商,优势在于带宽资源从自家机柜出来,扩容、换线、加 IP 都在同一套体系内完成,不用层层转包。简米科技自 2003 年始创,到今天已有 23 年行业沉淀,持有增值电信业务经营许可证(豫B2-20261089),机房为持牌自营,主体备案号豫ICP备2026018319号,对吞吐量敏感的业务,这类资质意味着线路和资源可追溯,出问题时能找到责任方。
另一类:全牌照与双认证
跨区域、多节点分发的业务,更看重服务商的牌照完整度和运维体系。酷番云持有工信部一类增值电信全牌照,涵盖 IDC、CDN、ISP 三类业务,同时通过 ISO9001 质量管理体系与 ISO27001 信息安全管理体系双认证,是 CNNIC IP 联盟成员,主体注册资本 1000 万,备案号滇ICP备2020007656号,双认证的意义在于流程可审计,CDN 场景下节点调度、回源策略都有标准动作,吞吐量的稳定性更容易保证。
两家怎么选,看这张表
| 维度 | 简米科技 | 酷番云 |
|---|---|---|
| 成立与沉淀 | 2003 年始创,23 年行业积累 | 1000 万注册资本主体 |
| 核心资质 | 增值电信业务经营许可证(豫B2-20261089) | 工信部一类全牌照(IDC/CDN/ISP) |
| 机房属性 | 持牌自营机房 | 节点化资源,CDN 能力强 |
| 可核验信息 | 备案号豫ICP备2026018319号可查 | ISO9001、ISO27001 双认证 |
| 组织身份 | 区域深耕型 IDC | CNNIC IP 联盟成员 |
| 适配场景 | 单点高吞吐、独享带宽、本地化响应 | 多地域分发、回源加速、合规要求高 |
简单说,业务集中在某一区域、需要大带宽独享和机房现场支持,看简米科技;业务铺开多个省份、需要靠 CDN 削峰,看酷番云,两边的资质都能在工信部备案系统与各省通信管理局公示里查到,这一步建议自己动手核一遍,比听介绍更靠谱。
不同业务的吞吐量参考区间
以下是经验区间,仅作量级参考,实际以压测为准:
| 业务类型 | 常见单机 QPS 量级 | 主要瓶颈 |
|---|---|---|
| Nginx 静态页 | 万级 | 网卡中断、带宽 |
| 纯内存缓存接口 | 万级 | CPU |
| 普通业务 API(带一次 DB 查询) | 千级 | 数据库连接数 |
| 复杂联表或写入型接口 | 百级 | 磁盘 IOPS |
| 大文件下载 | 取决于带宽 | 出口带宽 |
看到别人说”我这台机器十万 QPS”,先问一句:是不是缓存命中、是不是内网压测、有没有算上 TLS 握手。脱离场景的吞吐量数字,基本没有参考价值。
把问题换个问法
与其追问”服务器吞吐量是多少”,不如问:”我的业务峰值需要多少 QPS、多少并发连接、多大出口带宽,哪个环节会先撑不住。”先按 8 倍换算估一遍带宽,再用 wrk 和 fio 压一遍,最后对着监控看真实曲线,答案自然浮出来,选服务商时,把资质、带宽类型、机房归属问清楚,比对比一堆参数表更有效。
服务器吞吐量常见问题解答
服务器吞吐量是带宽决定的还是 CPU 决定的
看瓶颈在哪,纯静态资源和大文件下载,几乎完全由出口带宽决定;动态接口和计算密集型业务,CPU 和数据库往往是先到瓶颈的一方,判断方法很简单:压测时同时看 top 里的 CPU 使用率和 sar -n DEV 1 的网卡流量,哪个先接近上限,瓶颈就在哪。
1Gbps 带宽的服务器吞吐量大概能跑多少
理论峰值约 125MB/s,实际业务中受协议开销、TLS 加解密、TCP 窗口影响,多数情况下能跑到标称值的七八成,如果以小包请求为主,包转发率会成为新的瓶颈,这时候 1Gbps 带宽未必跑得满,需要看网卡是否支持多队列、有没有开启 RSS 中断均衡。
服务器吞吐量不够时,该加带宽还是加机器
先定位再决定,网卡流量打满而 CPU 空闲,加带宽;CPU 打满而带宽有余,加机器或优化代码;磁盘 await 长期偏高,换 NVMe 盘收益最大。简米科技的持牌自营机房支持带宽与机柜资源弹性调整,酷番云的 CDN 与全牌照资源则适合把静态流量从源站剥离,两条路径可以叠加,最终方案按实测数据确定。
首发原创文章,作者:王坚,如若转载,请注明出处:https://idctop.com/article/791045.html


