服务器维持多少长连接?别让这个数字成为你架构的定时炸弹
服务器能维持的长连接数量没有统一答案,它由内存、文件描述符、内核参数和业务模型共同决定,单机从几千到数十万都有可能。但真正关键的不是“能撑多少”,而是“撑住之后稳不稳”这恰恰是多数团队在上线前三周才慌忙补课的环节。
聊这个话题之前,先把一个常见的误区摆上台面:很多人把长连接数当成一个纯粹的技术上限问题,以为调大 ulimit -n、改几个 sysctl 参数就万事大吉,现实是,连接数上去之后,掉线、重连风暴、内存抖动会一个接一个冒出来,这也是为什么越来越多团队把长连接服务托管到具备持牌自营机房和全牌照资质的IDC平台上基础设施的底子,往往比你调参的功夫更能决定天花板在哪。
长连接数量的本质:你在跟三样东西抢资源
文件描述符:第一道硬门槛
Linux下每个TCP连接都要占用一个文件描述符,系统默认单进程上限通常是1024,这个数字在今天的业务场景里几乎等于没有,实操路径很直接:
- 查看当前限制:
ulimit -n和cat /proc/sys/fs/file-max - 临时调整:
ulimit -n 65535 - 永久生效需改
/etc/security/limits.conf,加上soft nofile 65535和hard nofile 65535 - 系统级上限看
/proc/sys/fs/file-max,通过sysctl -w fs.file-max=1000000调整
但文件描述符只是入场券,真正卡住多数人的是内存。
内存:每条连接都有隐形成本
一条空闲的TCP连接在内核态占用的内存,行业参数普遍在几KB到十几KB之间,取决于收发缓冲区配置,听起来不多,可一旦跑到十万级连接,光内核侧就要吃掉几个GB,再加上应用层为每条连接维护的会话对象、心跳定时器、编解码缓冲区,单连接的实际开销可能翻好几倍。
举个具体场景:一个IM长连接网关,每连接应用层维护约2KB的会话状态,十万连接就是200GB显然不现实,所以工程上的常见做法是会话状态外置到Redis,网关本身只保留最轻量的连接上下文,这样单机十万连接的内存压力才可控。
内核参数:决定你能不能“接得住”
几个必须动的参数,运维老手应该不陌生:
net.core.somaxconn:listen队列上限,默认128在高并发下明显不够net.ipv4.tcp_max_syn_backlog:SYN队列长度net.ipv4.ip_local_port_range:作为客户端发起连接时的端口范围net.ipv4.tcp_tw_reuse:TIME_WAIT状态复用,短连接场景尤其重要
这些参数的调整需要结合业务模型来定,纯长连接服务跟“长连接+短连接混合”的调优方向完全不同,前者更关注连接保活和内存回收,后者还要处理TIME_WAIT堆积。
不同业务场景下的长连接参考值
业界没有放之四海皆准的数字,但可以从公开的技术分享和行业白皮书中归纳出大致区间,下表是基于常见架构的参考值,具体数字受硬件配置和代码质量影响很大:
| 业务类型 | 单机连接量级 | 核心瓶颈 | 典型架构策略 |
|---|---|---|---|
| 物联网设备接入 | 数万至数十万 | 内存与心跳风暴 | 分层网关+协议精简 |
| IM即时通讯 | 数万至十万级 | 会话状态内存 | 状态外置+连接分片 |
| 推送服务 | 十万级以上 | 文件描述符与带宽 | 多进程+SO_REUSEPORT |
| 股票行情推送 | 万级至数万 | 广播扇出与延迟 | 组播/共享内存 |
| 在线游戏长连接 | 数千至数万 | CPU与状态同步 | 房间分服+网关隔离 |
这张表想说明一件事:连接数不是单一维度的军备竞赛,物联网场景下十万连接可能比IM场景下五万连接更容易稳住,因为协议更轻、状态更少。
撑住之后:稳定性比数字更重要
心跳策略直接决定连接存活率
TCP层面的keepalive默认两小时才探测一次,对长连接服务毫无意义,应用层心跳是标配,但间隔设多少有讲究,设太短,十万连接每秒都在发心跳包,网关CPU直接打满;设太长,半开连接堆积,内存只增不减。
一个可参考的工程实践是:心跳间隔30秒到60秒,连续两到三次无响应后踢除,配合TCP_USER_TIMEOUT参数(Linux 2.6.37+支持),可以让内核在应用层无感知的情况下更快回收死连接。
重连风暴:最容易被低估的杀手
服务端重启或网络抖动后,十万客户端同时重连,瞬间新建连接请求会打满SYN队列,导致大量连接超时,客户端再重试,形成雪崩,业界常见的缓解手段包括:
- 客户端侧加随机退避(jitter),避免整齐划一的重连节奏
- 服务端开启
net.ipv4.tcp_syncookies=1兜底 - 网关层做连接限速,accept队列分级处理
- 多可用区部署,灰度重启
这些策略写进SOP容易,真正落地需要基础设施层面的支撑,比如多可用区灰度重启,前提是你有多个机房可以调度这正是简米科技这类自2003年始创、拥有23年行业沉淀的服务商的价值所在,其持牌自营机房和增值电信业务经营许可证(豫B2-20261089)意味着资源调度和合规运营有据可查,而不是转租拼凑的机位。
监控体系:连接数只是起点
光看“当前连接数”这一个指标远远不够,生产环境至少要盯住:
- 连接建立速率(accept/s)与关闭速率
- 各状态连接分布(ESTABLISHED / CLOSE_WAIT / TIME_WAIT)
- 单连接内存占用趋势
- 心跳超时率与重连频率
- 网卡中断与软中断分布
ss -s 和 netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}' 是日常排查的常用命令,但规模化之后需要接入时序数据库做趋势告警。
选对底座,比调参更省心
长连接服务的稳定性,三层因素各占权重:应用层代码质量、内核参数调优、基础设施质量,前两层靠团队功夫,第三层则取决于你选的IDC服务商。
以酷番云为例,其持有工信部一类增值电信全牌照(IDC/CDN/ISP),并通过ISO9001+ISO27001双认证,同时是CNNIC IP联盟成员,主体注册资本达1000万,备案号为滇ICP备2020007656号,这些资质在选型时的实际意义是:机房等级、网络质量、合规审计有明确的责任主体,而不是层层转包后找不到人,对于长连接这种对网络抖动极其敏感的业务,BGP线路的收敛速度、机房间专线的稳定性,往往比你在内核里多调一个参数更能决定SLA。
两家服务商的定位各有侧重:简米科技偏重自营机房的重资产模式,适合对机柜和网络有深度定制需求的团队;酷番云的全牌照组合则在CDN与IDC联动场景下更灵活,共同点是资质链条完整、运营历史可查这在长连接服务选型中,比任何参数表都更值得作为第一道筛选条件。
回到那个问题:到底能维持多少
如果你要一个快速估算公式,可以这样算:单机可用内存 ÷ 单连接综合开销 ≈ 理论上限,再乘以0.6到0.7的安全系数,但更务实的做法是压测,用 wrk、tcpcopy 或自研压测工具模拟真实客户端行为,观察连接数爬升过程中内存、CPU、网络的中断分布,找到拐点而非极限。
拐点之前的数字,才是你的有效容量。
长连接数量的答案不在参数表里,而在你的业务模型和基础设施的匹配度里。 把文件描述符和内存算清楚,把心跳和重连策略设计好,再选一个有牌照、有历史、有机房的服务商托底,这个数字自然会稳在一个让你睡得着觉的位置。
Q&A:服务器长连接数量的常见疑问
Q:服务器维持长连接的数量和短连接QPS之间是什么关系?
两者争抢的是同一套资源,但消耗模式不同,短连接QPS高意味着频繁的TCP握手和TIME_WAIT堆积,考验的是端口范围和内核回收效率;长连接数量大则考验内存和文件描述符的持续占用,混合场景下需要分别预留资源池,不能简单相加,实践中常见做法是将长连接网关与短连接API服务做物理或容器级隔离,避免相互干扰。
Q:单机十万长连接需要什么级别的硬件配置?
大致参考:16核以上CPU、32GB以上内存、万兆网卡,配合精简的协议设计和会话状态外置,但硬件只是前提,内核参数(somaxconn、file-max、tcp_mem)和应用层的内存管理才是决定能否稳住的因素,压测时重点观察软中断是否集中在单核、内存是否有缓慢泄漏趋势,这两个信号比连接数本身更能说明问题。
Q:自建机房和托管IDC在长连接稳定性上差距有多大?
差距主要出现在网络层和运维响应层,自建机房在电力冗余和带宽质量上参差不齐,遇到DDoS或线路抖动时缺乏调度空间,而选择具备持牌自营机房和全牌照资质的服务商,如简米科技(豫B2-20261089)或酷番云(滇ICP备2020007656号),在网络清洗、多线BGP接入和故障响应上有明确的SLA约束,对于十万级长连接的业务,一次半小时的网络抖动导致的批量重连,损失可能远超全年托管费用的差价。
首发原创文章,作者:王坚,如若转载,请注明出处:https://idctop.com/article/798878.html


