rabbitmq安装与高可用集群配置

rabbitmq版本:3.6.12

rabbitmq安装

1.安装openssl

wget http://www.openssl.org/source/openssl-1.0.0a.tar.gz && tar zxvf openssl-1.0.0a.tar.gz && cd openssl-1.0.0a && ./config -fPIC --prefix=/usr/local/openssl && make && make install

编译安装openssl报错:POD document had syntax errors at /usr/bin/pod2man line 69. make: *** [install_docs]

解决方法:rm -f /usr/bin/pod2man

2.安装erlang

wget http://erlang.org/download/otp_src_18.3.tar.gz && tar xvf otp_src_18.3.tar.gz && cd otp_src_18.3 && ./configure --prefix=/usr/local/erlang --with-ssl=/usr/local/openssl -enable-threads -enable-smmp-support -enable-kernel-poll --enable-hipe --without-javac && make && make install

编译安装报错:configure: error: No curses library functions found

configure: error: /bin/sh '/home/jiayi/otp_src_18.2.1/erts/configure' failed for erts

解决方法:yum -y install ncurses-devel

3.安装rabbitmq

下载地址:http://www.rabbitmq.com/releases/rabbitmq-server/v3.6.12/rabbitmq-server-generic-unix-3.6.12.tar.xz

tar xvf rabbitmq-server-generic-unix-3.6.12.tar.xz && mv rabbitmq_server-3.6.12/ ../rabbitmq-3.6.12

添加到环境变量:cat /etc/profile.d/path.sh

#!/bin/bash
export PATH=$PATH:/usr/local/erlang/bin:/usr/local/rabbitmq-3.6.12/sbin

启动rabbitmq:rabbitmq-server -detached

开启管理页面插件:rabbitmq-plugins enable rabbitmq_management

配置集群

rabbitmq的两种集群模式:普通模式、镜像模式。

普通模式:默认的集群模式

RabbitMQ集群中节点包括内存节点、磁盘节点。内存节点就是将所有数据放在内存,磁盘节点将数据放在磁盘上。如果在投递消息时,打开了消息的持久化,那么即使是内存节点,数据还是安全的放在磁盘。那么内存节点的性能只能体现在资源管理上,比如增加或删除队列(queue),虚拟主机(vrtual hosts),交换机(exchange)等,发送和接受message速度同磁盘节点一样。一个集群至少要有一个磁盘节点。一个rabbitmq集群中可以共享user,vhost,exchange等,所有的数据和状态都是必须在所有节点上复制的,对于queue根据集群模式不同,应该有不同的表现。在集群模式下只要有任何一个节点能够工作,RabbitMQ集群对外就能提供服务。

默认的集群模式,queue创建之后,如果没有其它policy,则queue就会按照普通模式集群。对于Queue来说,消息实体只存在于其中一个节点,A、B两个节点仅有相同的元数据,即队列结构,但队列的元数据仅保存有一份,即创建该队列的rabbitmq节点(A节点),当A节点宕机,你可以去其B节点查看,./rabbitmqctl list_queues发现该队列已经丢失,但声明的exchange还存在。

当消息进入A节点的Queue中后,consumer从B节点拉取时,RabbitMQ会临时在A、B间进行消息传输,把A中的消息实体取出并经过B发送给consumer,所以consumer应平均连接每一个节点,从中取消息。该模式存在一个问题就是当A节点故障后,B节点无法取到A节点中还未消费的消息实体。如果做了队列持久化或消息持久化,那么得等A节点恢复,然后才可被消费,并且在A节点恢复之前其它节点不能再创建A节点已经创建过的持久队列;如果没有持久化的话,消息就会失丢。这种模式更适合非持久化队列,只有该队列是非持久的,客户端才能重新连接到集群里的其他节点,并重新创建队列。假如该队列是持久化的,那么唯一办法是将故障节点恢复起来。

为什么RabbitMQ不将队列复制到集群里每个节点呢?这与它的集群的设计本意相冲突,集群的设计目的就是增加更多节点时,能线性的增加性能(CPU、内存)和容量(内存、磁盘)。当然RabbitMQ新版本集群也支持队列复制(有个选项可以配置)。比如在有五个节点的集群里,可以指定某个队列的内容在2个节点上进行存储,从而在性能与高可用性之间取得一个平衡(应该就是指镜像模式)。

镜像模式:把需要的队列做成镜像队列,存在于多个节点,属于RabbitMQ的HA方案。

该模式解决了上述问题,其实质和普通模式不同之处在于,消息实体会主动在镜像节点间同步,而不是在consumer取数据时临时拉取。该模式带来的副作用也很明显,除了降低系统性能外,如果镜像队列数量过多,加之大量的消息进入,集群内部的网络带宽将会被这种同步通讯大大消耗掉。所以在对可靠性要求较高的场合中适用,一个队列想做成镜像队列,需要先设置policy,然后客户端创建队列的时候,rabbitmq集群根据“队列名称”自动设置是普通集群模式或镜像队列。

配置步骤

1.修改/etc/hosts,加入集群节点描述:

172.31.11.235 testmq
    172.31.10.248 test01

2.将testmq的.erlang.cookie内容复制到test01上

保持 testmq的.erlang.cookie与test01的一致

3.将test01加入到集群中(注意开放防火墙,端口:5672,15672,25672)

test01 # rabbitmqctl stop_app
test01 # rabbitmqctl join_cluster rabbit@testmq
test01 # rabbitmqctl start_app

查看集群状态:

-bash-4.2$ rabbitmqctl cluster_status
Cluster status of node rabbit@testmq
[{nodes,[{disc,[rabbit@test01,rabbit@testmq]}]},
{running_nodes,[rabbit@test01,rabbit@testmq]},
{cluster_name,<<"rabbit@testmq">>},
{partitions,[]},
{alarms,[{rabbit@test01,[]},{rabbit@testmq,[]}]}]

4.配置镜像队列策略

rabbitmqctl set_policy ha-all "^" '{"ha-mode":"all","ha-sync-mode":"automatic"}'

5.配置负载均衡器

网上推荐使用haproxy,我这边使用的aws服务,直接使用现成的elb去实现。

rabbitmq安装与高可用集群配置

rabbitmq安装与高可用集群配置

集群高可用测试:登录rabbitmq管理界面, 分别从两台服务器push消息,然后关闭,观察另一台服务器是否正常同步消息。

参考链接:https://my.oschina.net/u/1186749/blog/813156

http://www.ywnds.com/?p=4741

上一篇:Centos6安装SGE以及集群配置


下一篇:redis linux安装与简单集群配置