服务器处理两个及以上客户端连接的核心在于通过并发机制（如多线程、多进程或IO多路复用）打破单线程阻塞，使服务器在等待一个客户端响应时能够同步或异步地处理另一个客户端的请求。
服务器处理客户端连接的基础逻辑
在深入探讨并发处理之前，必须理解TCP连接的本质，服务器在处理客户端连接时，并不是直接与客户端“对话”，而是通过一个名为Socket（套接字）的接口进行通信。
![[原神]啊~这令人绝望的「重新连接服务器」](https://i0.hdslb.com/bfs/archive/a8fe008a329c8a00a3cf26ee40c3144a44328aa0.jpg)
监听与接受的流程
服务器启动后，会经历一个标准的生命周期：socket() 创建套接字 $rightarrow$ bind() 绑定IP和端口 $rightarrow$ listen() 进入监听状态 $rightarrow$ accept() 等待连接。
当第一个客户端发起连接请求时，accept() 函数会将该请求从全连接队列（Accept Queue）中取出，并创建一个全新的已连接套接字（Connected Socket），如果服务器采用的是简单的单线程同步模型,它会陷入对该套接字的读写操作中。
单线程阻塞的瓶颈
在单线程模型下，如果客户端A发送了一个请求，但由于网络延迟或处理复杂，服务器在执行 read() 或 write() 时会被阻塞，即使客户端B已经完成了TCP三次握手并进入了全连接队列，服务器也无法调用 accept() 来处理客户端B，导致客户端B在感知上出现了“连接超时”或“响应缓慢”。
服务器如何同时处理多个客户端连接
为了解决上述阻塞问题，业内专家指出，必须引入并发处理机制，处理两个客户端连接最直观的方式是将“监听”与“处理”解耦。
多进程模型（Multi-processing）
这是早期的经典做法，服务器主进程仅负责 accept()，每当有一个新客户端连接时，主进程通过 fork() 创建一个子进程。
- 操作路径：主进程 $rightarrow$
accept()$rightarrow$fork()$rightarrow$ 子进程处理客户端A $rightarrow$ 主进程继续accept()$rightarrow$fork()$rightarrow$ 子进程处理客户端B。 - 优点：进程间内存隔离,一个客户端导致子进程崩溃不会影响其他连接。
- 缺点：进程创建和切换的开销极大,内存占用高。
多线程模型（Multi-threading）
与多进程类似，但将 fork() 替换为创建线程（如使用 pthread_create）。
- 操作路径：主线程 $rightarrow$
accept()$rightarrow$ 创建工作线程 $rightarrow$ 线程处理客户端请求。 - 核心差异：线程共享进程的地址空间，通信速度快,资源开销低于进程。
- 潜在风险：需要处理竞态条件（Race Condition），必须使用互斥锁（Mutex）或信号量来保证共享数据的安全。
性能对比分析
以下是两种基础并发模型在处理少量连接时的对比：
| 维度 | 多进程模型 | 多线程模型 |
|---|---|---|
| 资源消耗 | 高（每个进程独立内存） | 中（共享内存空间） |
| 切换开销 | 较高（上下文切换涉及页表） | 较低（仅切换寄存器和栈） |
| 稳定性 | 强（进程崩溃互不影响） | 弱（一个线程崩溃可能导致进程整体退出） |
| 适用场景 | 计算密集型、高隔离需求 | IO密集型、轻量级连接 |
高性能方案：IO多路复用机制
当连接数从2个增加到2000个甚至更多时，为每个连接创建线程会导致服务器内存耗尽且CPU在上下文切换中浪费大部分时间，行业共识认为，IO多路复用（IO Multiplexing）是现代高性能服务器（如Nginx, Redis）的核心。
select与poll的局限性
select 和 poll 允许服务器在一个线程中监视多个文件描述符（FD），服务器会询问内核：“这100个连接中，谁有数据可读？”
- 缺陷：它们需要将所有要监视的FD列表从用户态拷贝到内核态，且每次返回后需要遍历整个列表来寻找哪个FD就绪，时间复杂度为 $O(n)$。
epoll的进化逻辑
在Linux环境下，epoll 彻底改变了这一模式，它不再重复拷贝列表，而是通过一个红黑树在内核中维护所有被监视的连接。
- 工作原理：
epoll_create：创建内核事件表。epoll_ctl：将客户端套接字添加到红黑树中。epoll_wait：内核在某个连接就绪时，通过回调机制将其放入一个就绪链表中,服务器直接从链表中获取就绪连接。
- 效率提升：时间复杂度降低至 $O(1)$，无论监听10个还是1万个连接,获取就绪连接的速度几乎一致。
多线程与IO多路复用哪个性能更好
这是一个典型的场景选择问题，不能简单定义谁更好，而应根据连接规模和请求频率决定。
适用多线程的场景
如果服务器处理的连接数极少（例如仅两个客户端），且每个请求都需要进行大量的计算（如复杂的加密解密或大规模数据处理），多线程能充分利用多核CPU的并行能力,线程切换的开销相对于计算时间可以忽略不计。
适用IO多路复用的场景
如果服务器需要处理大量长连接（如即时通讯、WebSocket），且大部分连接处于空闲状态（只有少数连接在发送数据），epoll 具有压倒性优势，它避免了为每个空闲连接分配线程,极大地降低了内存压力。
混合模式：Reactor模式
现代工业级架构通常采用 Reactor 模式：
- 主Reactor线程：专门负责
accept新连接。 - 子Reactor线程池：负责通过
epoll监听已建立连接的读写事件。 - Worker线程池：负责执行具体的业务逻辑处理。
这种设计实现了连接建立、IO读写、业务处理的三层解耦。
Linux服务器处理大量连接的配置方法
在实际部署中，仅靠代码优化是不够的,必须调整Linux内核参数以支持高并发连接。
调整全连接队列长度
当客户端连接速度极快时，accept() 处理不过来，全连接队列会被填满，导致客户端收到 Connection refused。
- 操作路径：修改
/etc/sysctl.conf - 关键参数：
net.core.somaxconn = 2048
（将默认的128提高到2048或更高）。
- 生效命令：
sysctl -p
优化TCP连接回收
对于短连接频繁的场景，大量连接处于 TIME_WAIT 状态会占用端口资源。
- 关键参数：
net.ipv4.tcp_tw_reuse = 1（允许将TIME_WAIT状态的 sockets 重新用于新的 TCP 连接）。
增加文件描述符限制
在Linux中，每个Socket都是一个文件，默认的单进程文件打开数限制通常是1024,这在处理多连接时远远不够。
- 查看命令：
ulimit -n - 修改路径：编辑
/etc/security/limits.conf，添加soft nofile 65535和hard nofile 65535。
服务器处理两个及以上客户端连接的演进路径是从同步阻塞 $rightarrow$ 多线程/多进程并发 $rightarrow$ IO多路复用，对于极小规模连接，多线程简单高效；对于大规模并发，epoll 配合 Reactor 模式是唯一选择。
服务器处理客户端连接常见问题Q&A
服务器处理两个客户端连接时，如果其中一个连接死锁了会影响另一个吗？
这取决于并发模型，如果使用单线程同步模型，死锁将导致整个服务器停止响应，另一个客户端无法连接或接收数据，如果使用多线程或多进程模型，死锁仅限于该连接对应的线程/进程，其他连接不受影响，如果使用IO多路复用，只要业务逻辑层不阻塞主事件循环,其他连接依然可以正常通信。
如何在Linux环境下实时查看服务器当前处理的连接数？
可以使用 ss 或 netstat 命令。
- 具体命令：
ss -ant | grep ESTAB | wc -l
该命令通过过滤状态为ESTABLISHED的TCP连接并统计行数,可以精准得出当前服务器正在处理的活跃连接总数。
当服务器达到最大连接数限制时，客户端会收到什么错误？
当内核的全连接队列（Accept Queue）被填满且 backlog 参数达到上限时，服务器将停止响应新的 SYN 包，客户端通常会经历多次重传，最终收到 Connection timed out（连接超时） 或 Connection refused（连接被拒绝） 错误，具体取决于内核是否发送了 RST 包。
首发原创文章，作者：世雄 - 原生数据库架构专家，如若转载，请注明出处：https://idctop.com/article/490061.html
