搭建EMQX集群环境,本质上是将多个EMQX节点通过Erlang分布式协议连接,形成统一的消息处理层,核心在于节点名称唯一性、发现策略配置以及网络端口互通,三行配置即可拉起一个最小集群。
服务器集群的搭建并不神秘,当单台服务器无法承载高并发连接或需要故障冗余时,把多台机器组织成集群就是最直接的方案,EMQX作为开源MQTT消息中间件,其集群模式天然支持水平扩展,是物联网场景下的常用选择,下面从零开始,拆解整个搭建过程,覆盖配置、验证、优化三个环节。
服务器集群怎么搭建:从EMQX集群环境切入
要理解服务器集群的本质,可以把集群想象成一组互相认识、互相协作的工人,每个工人(节点)知道自己该做什么,也知道同伴在哪里,EMQX集群正是利用Erlang/OTP的分布式特性,让节点间通过cookie和节点名称建立信任,再通过发现机制找到彼此。
硬件与网络环境准备
在动手之前,先把基础设施理清楚,集群搭建的前置条件直接影响后续稳定性。
- 节点数量:生产环境至少3个节点,2节点会形成“脑裂”隐患,5节点是常见推荐值,行业共识认为,奇数节点能有效降低脑裂风险。
- 操作系统:建议统一使用CentOS 7/8或Ubuntu 20.04,内核版本保持接近,时间同步必须开启,NTP服务是必备项。
- 网络要求:节点间内网互通,延迟越低越好,需开放四个端口:4369(EPMD端口映射)、5369(集群RPC)、6369(集群内部通信),以及默认2379的数据分布端口,防火墙规则需精确放行这些端口。
下载与安装EMQX
从EMQX官网获取对应版本的压缩包或rpm包,开源版(Community Edition)与商业版(Enterprise Edition)在集群能力上一致,商业版多了数据持久化、Kanban等高级功能,对于入门学习,开源版完全够用。
# 举例:Ubuntu系统安装 wget https://www.emqx.com/zh/downloads/broker/5.0.26/emqx-5.0.26-ubuntu20.04-amd64.tar.gz tar -xzf emqx-5.0.26-ubuntu20.04-amd64.tar.gz cd emqx ./bin/emqx start
启动后访问Dashboard(默认18083端口),确认单节点运行正常,这一步成功后再进行集群配置。
搭建EMQX集群环境的详细步骤
集群配置的核心是让每个节点知道自己是谁、能联络谁,以下步骤基于开源版5.x版本,几乎适用于所有主流版本。
修改节点名称
每个节点必须拥有一个全局唯一的名称,格式为节点名@IP,名称中的IP必须可被其他节点访问。
- 节点1:修改
etc/emqx.conf,设置node.name = emqx1@192.168.1.101 - 节点2:设置
node.name = emqx2@192.168.1.102 - 节点3:设置
node.name = emqx3@192.168.1.103
如果使用DNS解析,IP也可以替换为域名,但需确保节点间能解析。
配置集群发现方式
EMQX支持多种发现机制:静态节点列表、DNS A记录、etcd、Kubernetes等,对于固定IP的机房环境,静态节点列表最直接。
在etc/emqx.conf中统一设置:
cluster.discovery = static
cluster.static.seeds = emqx1@192.168.1.101,emqx2@192.168.1.102,emqx3@192.168.1.103
所有节点都使用相同的cluster.static.seeds列表,这样每个节点启动时就知道应该找谁连接。
启动节点并加入集群
依次启动每个节点,但注意启动顺序:第一个节点启动后,它自身就是集群;后续节点需要主动加入。
- 启动节点1:
./bin/emqx start - 启动节点2:先启动,再执行
./bin/emqx_ctl cluster join emqx1@192.168.1.101 - 启动节点3:同样先启动,加入emqx1或emqx2均可。
加入成功后,使用./bin/emqx_ctl cluster status查看集群成员列表,如果看到三个节点状态均为running,说明集群已形成。
验证集群功能
- Dashboard验证:登录任意节点Dashboard,查看Nodes页面,应该显示所有节点信息。
- 消息路由验证:在节点1上订阅topic(如
test/1),在节点2上发布消息,观察订阅端是否能收到,如果收到,说明消息在集群内正常转发。 - 客户端连接验证:使用MQTT客户端连接负载均衡器(或直接连接节点1),确认连接可靠。
服务器集群搭建方案中的关键参数
集群搭建完成后,需要关注几个影响性能和稳定性的参数,它们直接决定集群是否“好用”。
节点发现机制的选择
- 静态节点列表:适合固定IP、节点数稳定的场景,配置简单,但后期扩容需手动修改所有节点配置。
- DNS发现:适合动态环境,如容器化部署,节点通过DNS A记录自动发现彼此,扩容时只需更新DNS记录。
- etcd或Kubernetes:适合云原生架构,借助外部服务发现,完全自动化,据业内专家指出,对于超大规模集群(超过20节点),建议使用etcd或Kubernetes发现,避免静态列表的维护负担。
负载均衡与客户端接入
EMQX集群本身不提供统一的客户端接入入口,每个节点都是独立的MQTT端点,生产环境必须在前端部署负载均衡器,常见方案有:
- Nginx + TCP代理:通过stream模块转发MQTT连接,支持上游节点健康检查。
- HAProxy:专为四层负载设计,配置简单,性能高。
- 云负载均衡器:如简米云SLB、酷番云CLB,可直接将流量分发到集群内网IP。
负载均衡器选择上,建议优先使用LVS/HAProxy,因为Nginx在长连接场景下有一定连接数限制,具体配置需根据实际QPS(每秒查询数)和并发连接数评估。
高可用设计
- 节点角色:EMQX 5.0引入Core/Replicant概念,Core节点负责存储数据并参与集群协调,Replicant节点只处理客户端连接,不存储数据,开源版只有Core模式,但推荐在3个节点以上时,让所有节点都承担Core角色,避免引入单点存储。
- 自动平衡:
cluster.autorebalance选项开启后,集群会自动调整主题树、路由表,避免某节点过载,建议在集群稳定后开启。 - 数据持久化:EMQX使用Mnesia数据库,数据默认存储在
data/mnesia目录,定期备份该目录,并确保节点间数据同步正常。
常见问题与排查思路
Q: 节点加入集群时提示“该节点不属于此集群”或“connection refused”?
A: 首先检查两个节点的cookie是否一致,cookie文件位于etc/emqx.conf或data/cookie必须相同,检查防火墙是否放行了4369、5369、6369端口,确认/etc/hosts中配置了正确的IP映射,避免节点名称解析到回环地址。
Q: 集群中某个节点离线后,其他节点日志出现大量“Mnesia could not connect”错误?
A: 这是正常现象,表示节点间通信中断,此时应检查离线节点的网络或进程状态,若节点长时间无法恢复,建议使用emqx_ctl cluster leave将该节点正式移除,再重新加入,确保集群中剩余的节点数仍为奇数,避免脑裂。
Q: 搭建EMQX集群环境时,是否需要考虑硬件资源配置?
A: 需要,EMQX每个节点占用内存与客户端连接数正相关,并发连接数每增加1万,建议额外分配1GB内存,CPU核心数建议4核以上,尤其在开启规则引擎或桥接功能时,磁盘性能影响消息持久化,建议使用SSD。
从修改节点名称到配置发现策略,再到验证消息路由,搭建EMQX集群环境是一条清晰的操作链。 只要掌握节点命名、网络互通、发现机制三个关键点,就能快速构建一个可靠的消息集群,后续的负载均衡和监控补充,则是让集群走向生产环境的必由之路。
首发原创文章,作者:王坚,如若转载,请注明出处:https://idctop.com/article/545523.html


