高可用RabbitMQ安装及使用

Posted JAVA葵花宝典

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了高可用RabbitMQ安装及使用相关的知识,希望对你有一定的参考价值。


引言

你是否遇到过两个(多个)系统间需要通过定时任务来同步某些数据?你是否在为异构系统的不同进程间相互调用、通讯的问题而苦恼、挣扎?如果是,那么恭喜你,消息服务让你可以很轻松地解决这些问题。
消息服务擅长于解决多系统、异构系统间的数据交换(消息通知/通讯)问题,你也可以把它用于系统间服务的相互调用(RPC)。本文将要介绍的RabbitMQ就是当前最主流的消息中间件之一。本文仅关注高可用安装和使用,后续篇章持续关注

下载

由于RabbitMQ是基于Erlang语言开发,所以在安装RabbitMQ之前,需要先安装Erlang。好在RabbitMQ官网已经为我们提供了Erlang的安装包

本人使用的操作系统为:CentOS7

下载的Erlang安装包为:erlang-19.0.4-1.el7.centos.x86_64.rpm

下载的RabbitMQ安装包为:rabbitmq-server-3.6.8-1.el7.noarch.rpm

安装

将下载的两个文件上传到/usr/local目录,先安装Erlang

yum install erlang-19.0.4-1.el7.centos.x86_64.rpm
测试Erlang是否安装成功

出现以下信息则表示安装成功:

Erlang (SMP,ASYNC_THREADS,HIPE) (BEAM) emulator version 8.0.3

安装RabbitMQ

yum install rabbitmq-server-3.6.8-1.el7.noarch.rpm

运行RabbitMQ

cd /usr/sbin
./rabbitmq-server start

出现以下信息,则表示启动成功:

RabbitMQ 3.6.8. Copyright (C) 2007-2016 Pivotal Software, Inc.
## ## Licensed under the MPL. See http://www.rabbitmq.com/
## ##
########## Logs: /var/log/rabbitmq/rabbit@mq01.log
###### ## /var/log/rabbitmq/rabbit@mq01-sasl.log
##########
Starting broker...
completed with 0 plugins.

后台启动可使用:

./rabbitmq-server -detached

插件安装

查看目前RabbitMQ已安装的插件

cd /usr/sbin
./rabbitmq-plugins list

安装web管理端

./rabbitmq-plugins enable rabbitmq_management

安装成功后,启动MQ

由于guest用户被限制,只能通过localhost访问,因此我们需要新建一个用户,并授予管理员权限。

新建一个用户名为admin,密码为admin的用户,并授予管理员(administrator)权限

./rabbitmqctl add_user admin admin
./rabbitmqctl set_user_tags admin administrator

安装mqtt

./rabbitmq-plugins enable rabbitmq_mqtt

安装websocket

./rabbitmq-plugins enable rabbitmq_web_stomp
./rabbitmq-plugins enable rabbitmq_web_stomp_examples

配置
如果需要修改RabbitMQ的默认配置,先查找配置文件样例位置

find / -name "rabbitmq.config.example"

然后将样例配置复制到制定目录

cp /usr/share/doc/rabbitmq-server-3.6.8/rabbitmq.config.example /etc/rabbitmq/rabbitmq.config

修改样例文件,并保存,重启MQ生效。

权限
主要是set_permissions的使用,先看下命令的格式:

set_permissions [-p vhost] {user} {conf} {write} {read}

首先需要注意以下几点的理解:

1.这里的权限,只是针对一般用户的访问权限,注意和角色的区分。举个例子来说,非管理用户(普通用户),角色设置为none,然后在这里配置conf、write、read的权限。

2.conf、write、read采用正则表达式,这里的正则主要是针对exchange和queue。主要2种特殊的表达式:

^$:表示完全不匹配(即没有权限)

.*:表示匹配所有(即所有权限)

如果使用RabbitMQ作为消息推送服务,需要授予用户只读访问Stomp主题权限,同时授予另一个用户对同一主题的读写访问权限。

这样的话主题订阅者就不能发布消息,从而解决安全性问题。

但是如果直接这样授权:

rabbitmqctl set_permissions read-only-user '.*' '^$' '.*' 

会报如下错误:

 ERROR message:access_refused content-type:text/plain version:1.0,1.1,1.2 content-length:114 ACCESS_REFUSED - access to queue 'stomp-subscription-APK3zkvXFqxvSiZ9ztmxYQ' in vhost '/' refused for user 'test' Whoops! Lost connection to ws://221.0.200.202:15674/ws

这样配置存在一个问题,将阻止任何写入,阻止任何写入将导致没有权限连接到RabbitMQ的服务

需要对可读用户权限做如下调整:

rabbitmqctl set_permissions read-only-user '^stomp-subscription.*$' '^stomp-subscription.*$' '.*' 

集群模式

RabbitMQ集群模式分为两种:普通模式,镜像模式(HA)

  普通模式:默认的集群模式
对于Queue来说,消息实体只存在于其中一个节点,A、B两个节点仅有相同的元数据,即队列结构。

当消息进入A节点的Queue中后,consumer从B节点拉取时,RabbitMQ会临时在A、B间进行消息传输,把A中的消息实体取出并经过B发送给consumer。

所以consumer应尽量连接每一个节点,从中取消息。即对于同一个逻辑队列,要在多个节点建立物理Queue。否则无论consumer连A或B,出口总在A,会产生瓶颈。

该模式存在一个问题就是当A节点故障后,B节点无法取到A节点中还未消费的消息实体。

如果做了消息持久化,那么得等A节点恢复,然后才可被消费;如果没有持久化的话,然后就没有然后了……

  镜像模式:把需要的队列做成镜像队列,存在于多个节点,属于RabbitMQ的HA方案
该模式解决了上述问题,其实质和普通模式不同之处在于,消息实体会主动在镜像节点间同步,而不是在consumer取数据时临时拉取。

该模式带来的副作用也很明显,除了降低系统性能外,如果镜像队列数量过多,加之大量的消息进入,集群内部的网络带宽将会被这种同步通讯大大消耗掉。

所以在对可靠性要求较高的场合中适用。

服务器信息:
 我们准备了两台服务器,系统为Centos7,对应的ip跟hostname分别为

192.168.1.242    mq01
192.168.1.243    mq02
 在安装好的两台节点服务器中,分别修改/etc/hosts文件,指定mq01,mq02的hosts,如:

192.168.1.242    mq01
192.168.1.243    mq02
 注意:hostname文件也要正确,分别是mq01、mq02,如果修改hostname建议在安装rabbitmq前修改。

设置 Erlang Cookie:
Rabbitmq的集群是依赖于erlang的集群来工作的,所以必须先构建起erlang的集群环境。Erlang的集群中各节点是通过一个magic cookie来实现的,这个cookie存放在 /var/lib/rabbitmq/.erlang.cookie 中,文件是400的权限。所以必须保证各节点cookie保持一致,否则节点之间就无法通信。

查看文件权限的命令为:

ls -l /var/lib/rabbitmq/.erlang.cookie

这里将 mq01的 /var/lib/rabbitmq/.erlang.cookie文件复制到 mq02,由于这个文件权限是 400,所以需要先修改该文件权限为 777:

chmod 777 /var/lib/rabbitmq/.erlang.cookie

使用scp或其他方式将该文件复制到mq02服务器的相同目录,并覆盖。

然后将mq01的 /var/lib/rabbitmq/.erlang.cookie文件权限修改回来

chmod 400 /var/lib/rabbitmq/.erlang.cookie

组成集群
重启RabbitMQ服务:

rabbitmqctl stop
rabbitmq-server -detached

将mq02与mq01组成集群:

./rabbitmqctl stop_app
./rabbitmqctl join_cluster rabbit@mq01
./rabbitmqctl stop
./rabbitmq-server -detached

如果要使用内存节点,则可以使用--ram:

rabbitmqctl join_cluster --ram rabbit@mq01

查看集群是否配置成功:

rabbitmqctl cluster_status

HA集群模式配置

 上面配置RabbitMQ默认集群模式,但并不保证队列的高可用性,尽管交换机、绑定这些可以复制到集群里的任何一个节点,但是队列内容不会复制,虽然该模式解决一部分节点压力,但队列节点宕机直接导致该队列无法使用,只能等待重启,所以要想在队列节点宕机或故障也能正常使用,就要复制队列内容到集群里的每个节点,需要创建镜像队列。

设置镜像队列策略
在任意一个节点上执行:

rabbitmqctl set_policy ha-all "^" '{"ha-mode":"all"}'

将所有队列设置为镜像队列,即队列会被复制到各个节点,各个节点状态保持一直。

如果要为制定的vhost创建策略则使用-p:

rabbitmqctl set_policy -p hrsystem ha-allqueue"^" '{"ha-mode":"all"}'

这行命令在vhost名称为hrsystem创建了一个策略,策略名称为ha-allqueue,策略模式为 all 即复制到所有节点,包含新增节点,
策略正则表达式为 “^” 表示所有匹配所有队列名称。
例如

rabbitmqctl set_policy -p hrsystem ha-allqueue "^message" '{"ha-mode":"all"}'

注意:"^message" 这个规则要根据自己修改,这个是指同步"message"开头的队列名称,我们配置时使用的应用于所有队列,所以表达式为"^"

安装并配置 HAProxy
在 服务器上安装 HAProxy,然后修改/etc/haproxy/haproxy.cfg

listen rabbitmq_cluster 0.0.0.0:5672

mode tcp
balance roundrobin

server   node1 192.168.1.242:5672 check inter 2000 rise 2 fall 3  
server   node2 192.168.1.243:5672 check inter 2000 rise 2 fall 3


作者:java_my_life

链接:https://www.cnblogs.com/java-my-life/p/6610802.html


推荐阅读








以上是关于高可用RabbitMQ安装及使用的主要内容,如果未能解决你的问题,请参考以下文章

RabbitMQ 高可用集群搭建及电商平台使用经验总结

高可用RabbitMQ集群安装配置

高可用RabbitMQ集群安装配置

RabbitMQ集群部署和高可用

Rabbitmq +Haproxy +keepalived 实现高可用集群

rabbitmq安装与高可用集群配置