docker进行RocketMq集群部署方式

更新时间：2024年04月01日 14:15:34 作者：快乐敲代码

这篇文章主要介绍了docker进行RocketMq集群部署方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教

环境

（1）Centos7
（2）JDK1.8
（3）docker
（4）rocketmq 4.8

两台服务器ip

A：192.168.5.49
B：192.168.5.50

集群模式

1、单节点 :

优点：本地开发测试，配置简单，同步刷盘消息一条都不会丢
缺点：不可靠，如果宕机，会导致服务不可用

2、主从(异步、同步双写) :

优点：同步双写消息不丢失, 异步复制存在少量丢失，主节点宕机，从节点可以对外提供消息的消费，但是不支持写入
缺点：主备有短暂消息延迟，毫秒级，目前不支持自动切换，需要脚本或者其他程序进行检测然后进行停止broker,重启让从节点成为主节点

3、双主：

优点：配置简单, 可以靠配置RAID磁盘阵列保证消息可靠，异步刷盘丢失少量消息
缺点: master机器宕机期间，未被消费的消息在机器恢复之前不可消费，实时性会受到影响

4、双主双从，多主多从模式（异步复制）我们这里采用这种

优点：磁盘损坏，消息丢失的非常少，消息实时性不会受影响，Master 宕机后，消费者仍然可以从Slave消费
缺点：主备有短暂消息延迟，毫秒级，如果Master宕机，磁盘损坏情况，会丢失少量消息

5、双主双从，多主多从模式（同步双写）

优点：同步双写方式，主备都写成功，向应用才返回成功，服务可用性与数据可用性都非常高
缺点：性能比异步复制模式略低，主宕机后，备机不能自动切换为主机

概念

rocketmq分为Name Server和Broker Server

名字服务（Name Server）

名称服务充当路由消息的提供者。

生产者或消费者能够通过名字服务查找各主题相应的Broker IP列表。

多个Namesrv实例组成集群，但相互独立，没有信息交换。

是Topic路由注册中心，端口默认为9876

代理服务器（Broker Server）

消息中转角色，负责存储消息、转发消息。

代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。

代理服务器也存储消息相关的元数据，包括消费者组、消费进度偏移和主题和队列消息等。

端口有三个：

listenPort：默认10911，接受客户端连接的监听端口，作为对producer和consumer使用服务的端口号，可以通过配置文件改
haListenPort：默认为listenPort + 1，高可用服务监听端口，主要用于slave同master同步
fastListenPort：默认为listenPort -2，主要是fastRemotingServer服务使用，用于VIP通道

部署

1、安装rmqnamesrv

两台的rmqnamesrv都直接运行即可，所有配置都用默认的即可

docker run -d --name rmqnamesrv \
 -v /home/docker/rocketmq/data/namesrv/logs:/home/rocketmq/logs \
 -p 9876:9876 \
 --restart=always \
 apacherocketmq/rocketmq:4.8.0-alpine sh mqnamesrv

2、安装rmqbroker

docker run -d --name rmqbroker \
 -v /home/docker/rocketmq/data/broker/logs:/home/rocketmq/logs \
 --link rmqnamesrv:namesrv \
 --restart=always \
 -e "NAMESRV_ADDR=namesrv:9876" \
 -p 10909:10909 -p 10911:10911 -p 10912:10912 \
 apacherocketmq/rocketmq:4.8.0-alpine \
 sh mqbroker -c /home/rocketmq/rocketmq-4.8.0/conf/broker.conf

拷贝rmqbroker的配置文件到主机目录

docker cp rmqbroker:/home/rocketmq/rocketmq-4.8.0/conf /home/docker/rocketmq/data/broker/conf

编辑配置文件broker.conf

#切换到刚刚拷贝出来的文件夹下
cd  /home/docker/rocketmq/data/broker/conf
#编辑主节点配置文件
sudo vi broker.conf
#编辑从节点配置文件
sudo vi broker-s.conf

主节点broker.conf内容如下：

# 集群名称,取同一个
brokerClusterName = docker-mq-cluster

# 节点名称,每个主节点取不一样的,另一个主节点我们取broker-b，如果是主从节点名称保持一致
brokerName = broker-a
#brokerName = broker-b

# 主从标识,0为主,其他大于0的为从,从只允许读,主可以读写
brokerId = 0

#未消费的持久化消息清理时间点,默认凌晨4点
deleteWhen = 04

#持久化消息保存周期(单位:小时)
fileReservedTime = 48

#brocker角色，异步主
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole = ASYNC_MASTER

#刷盘方式:异步刷盘
flushDiskType = ASYNC_FLUSH

#节点IP
brokerIP1 = 192.168.5.49
#brokerIP1 = 192.168.5.50

#broker的服务端口
listenPort=10911

#server服务器地址和端口,多个用分号隔开
namesrvAddr=192.168.5.49:9876;192.168.5.50:9876

#延迟消息等级时间，
#这个设置也影响全局的消费重试机制的间隔时间，消费重试机制走的就是延迟消息，这里设置后，第一次重试是在是失败的10s后（从第三个开始 ,DefaultMQPushConsumerImpl源码中setDelayTimeLevel(3 + msg.getReconsumeTimes())，舍去了前两个），第二次是上次失败的30s后，因为消费重试次数是16次（DefaultMQPushConsumerImpl源码默认是16次），而我们30s后面没有设置了，他后面的13次都会按30s间隔去重试
messageDelayLevel = 1s 5s 10s 30s

从节点broker-s.conf内容如下：

# 集群名称,取同一个
brokerClusterName = docker-mq-cluster

# 节点名称,每个主节点取不一样的,另一个主节点我们取broker-b，如果是主从节点名称保持一致
brokerName = broker-a
#brokerName = broker-b

# 主从标识,0为主,其他大于0的为从,从只允许读,主可以读写
brokerId = 1

#未消费的持久化消息清理时间点,默认凌晨4点
deleteWhen = 04

#持久化消息保存周期(单位:小时)
fileReservedTime = 48

#brocker角色，从
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole = SLAVE

#刷盘方式:异步刷盘
flushDiskType = ASYNC_FLUSH

#节点IP
brokerIP1 = 192.168.5.49
#brokerIP1 = 192.168.5.50

#broker的服务端口，和主节点区分开
listenPort=11911

#server服务器地址和端口,多个用分号隔开
namesrvAddr=192.168.5.49:9876;192.168.5.50:9876

#延迟消息等级时间
messageDelayLevel = 1s 5s 10s 30s

删除rmqbroker原容器

#t停止容器
docker stop rmqbroker 

#删除容器
docker rm rmqbroker

重启启动rmqbroker

启动主节点

docker run -d --name rmqbroker \
 -v /home/docker/rocketmq/data/broker/logs:/home/rocketmq/logs \
 -v /home/docker/rocketmq/data/broker/conf/broker.conf:/home/rocketmq/rocketmq-4.8.0/conf/broker.conf \
 --restart=always \
 -p 10909:10909 -p 10911:10911 -p 10912:10912 \
 apacherocketmq/rocketmq:4.8.0-alpine \
 sh mqbroker -c /home/rocketmq/rocketmq-4.8.0/conf/broker.conf

启动从节点

注意我们的启动命令，-p后面的端口是和主节点不一样的，

从节点和主节点区分开，我们就直接用11909、11911、11912

docker run -d --name rmqbroker-s \
 -v /home/docker/rocketmq/data/broker-s/logs:/home/rocketmq/logs \
 -v /home/docker/rocketmq/data/broker/conf/broker-s.conf:/home/rocketmq/rocketmq-4.8.0/conf/broker.conf \
 --restart=always \
 -p 11909:11909 -p 11911:11911 -p 11912:11912 \
 apacherocketmq/rocketmq:4.8.0-alpine \
 sh mqbroker -c /home/rocketmq/rocketmq-4.8.0/conf/broker.conf

3、启动可视化页面rocketmq-console-ng

在一台服务器安装可视化页面即可

docker run -d -p 8080:8080 --name rocketmq-console-ng \
-v /home/docker/rocketmq/tmp:/tmp \
--restart=always \
-e "JAVA_OPTS=-Drocketmq.namesrv.addr=192.168.5.49:9876;192.168.5.50:9876 -Dcom.rocketmq.sendMessageWithVIPChannel=false" \
styletang/rocketmq-console-ng

结果验证

查看服务端和客户端日志无报错，查看可视化界面

http://192.168.5.49:8080

成功检测到两个服务端，集群状态也正常

总结

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

腾讯云服务器docker开启端口后无法访问的解决方法
本文主要介绍了腾讯云服务器docker开启端口后无法访问的解决方法，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2023-06-06
docker-compose安装步骤和常用命令详解
这篇文章主要介绍了docker-compose安装步骤和常用命令,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2024-01-01
Docker如何批量删除images
这篇文章主要介绍了Docker如何批量删除images问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2023-11-11
docker 内存监控与压测方式
这篇文章主要介绍了docker 内存监控与压测方式，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
2021-03-03
Docker私有仓库打开2375端口的实现
本文主要介绍了Docker私有仓库打开2375端口的实现，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧
2023-03-03
docker搭建es集群实现过程详解
这篇文章主要为大家介绍了docker搭建es集群实现过程详解，有需要的朋友可以借鉴参考下，希望能够有所帮助，祝大家多多进步，早日升职加薪
2023-01-01
docker-compose管理容器network与ip问题
这篇文章主要介绍了docker-compose管理容器network与ip问题,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教
2024-01-01
Docker中数据卷(volume)管理的两种方式
数据卷有两种形式，一种是容器中的某个目录，它可以被别的容器引用，只要有一个容器引用了这个数据卷，数据就不会被删除；另一种数据卷是将容器中的数据卷和宿主机的目录进行挂载。数据卷可以在多个容器之间共享，修改数据卷不会影响镜像
2021-07-07
docker安装postgresql的图文教程
PostgreSQL也称为 Postgres,是领先的对象关系数据库系统,下面这篇文章主要给大家介绍了关于docker安装postgresql的相关资料,文中通过实例代码介绍的非常详细,需要的朋友可以参考下
2022-07-07
Docker Machine深入详解
这篇文章主要介绍了Docker Machine深入详解，文章总结的很详细，有感兴趣的同学可以研究下
2021-03-03