1、Zookeeper
(1)Zookeeper定义
Zookeeper是一个开源的,为分布式框架提供协调服务的Apache项目。
(2)Zookeeper工作机制
Zookeeper从设计模式角度来理解:是一个基于观察者模式设计的分布式服务管理框架,它负责存储和管理大家都关心的数据,然后接收观察者的注册,一旦这些数据的状态发生变化。Zookeeper就将负责通知已经在Zookeeper上注册的那些观察者,做出相应的反应。也就是说Zookeeper = 文件系统 + 通知机制。
(3)Zookeeper特点
(1)Zookeeper:一个领导者(Leader),多个跟随者(Follower)组成的集群。
(2)Zookeepe集群中只要有半数以上节点存活,Zookeeper集群就能正常服务。所以Zookeeper适合安装奇数台服务器。
(3)全局数据一致:每个Server保存一份相同的数据副本,Client无论连接到哪个Server,数据都是一致的。
(4)更新请求顺序执行,来自同一个Client的更新请求按其发送顺序依次执行,即先进先出。
(5)数据更新原子性,一次数据更新要么成功,要么失败。
(6)实时性,在一定时间范围内,Client能读到最新数据。
(4)Zookeeper数据结构
ZooKeeper数据模型的结构与Linux文件系统很类似,整体上可以看作是一棵树,每个节点称做一个ZNode。每一个ZNode默认能够存储1MB的数据,每个ZNode都可以通过其路径唯一标识。
(5)Zookeeper选举机制
第一次启动选举机制
(1)服务器1启动,发起一次选举。服务器1投自己一票。此时服务器1票数一票,不够半数以上(3票),选举无法完成,服务器1状态保持为LOOKING;
(2)服务器2启动,再发起一次选举。服务器1和2分别投自己一票并交换选票信息:此时服务器1发现服务器2的myid比自己目前投票推举的(服务器1)大,更改选票为推举服务器2。此时服务器1票数0票,服务器2票数2票,没有半数以上,选举无法完成,服务器1,2状态保持LOOKING;
(3)服务器3启动,发起一次选举。此时服务器1和2都会更改选票为服务器3。此次投票结果:服务器1为0票,服务器2为0票,服务器3为3票。此时服务器3的票数已经超过半数,服务器3当选Leader。服务器1,2更改状态为FOLLOWING,服务器3更改状态为LEADING;
(4)服务器4启动,发起一次选举。此时服务器1,2,3已经不是LOOKING状态,不会更改选票信息。交换选票信息结果:服务器3为3票,服务器4为1票。此时服务器4服从多数,更改选票信息为服务器3,并更改状态为FOLLOWING;
(5)服务器5启动,同4一样当小弟。
非第一次启动选举机制
(1)当ZooKeepe集群中的一台服务器出现以下两种情况之一时,就会开始进入Leader选举:
- 服务器初始化启动。
- 服务器运行期间无法和Leader保持连接。
(2)而当一台机器进入Leader选举流程时,当前集群也可能会处于以下两种状态:
集群中本来就已经存在一个Leader
对于已经存在Leader的情况,机器试图去选举Leader时,会被告知当前服务器的Leader信息,对于该机器来说,仅仅需要和Leader机器建立连接,并进行状态同步即可。
集群中确实不存在Leader
假设ZooKeeper由5台服务器组成,SID分别为1、2、3、4、5,ZXID分别为118、119、120、120、119,并且此时SID为3的服务器是Leader。某一时刻,3和5服务器出现故障,因此开始进行Leader选举。
选举Leader规则:
1.EPOCH大的直接胜出
2.EPOCH相同,事务id大的胜出
3.事务id相同,服务器id大的胜出
SID:服务器ID;用来唯一标识一台ZooKeeper集群中的机器,每台机器不能重复,和myid一致。
ZXID:事务ID;ZXID是一个事务ID,用来标识一次服务器状态的变更。在某一时刻,集群中每台机器的ZXID值不一定完全一致,这和ZooKeeper服务器对于客户端“更新请求”的处理逻辑速度有关。
Epoch:每个Leader任期的代号;没有Leader时==,同一轮投票过程中的逻辑时钟值是相同的==。每投完一次票,这个数据就会增加.
2、部署Zookeeper集群
20.0.0.10: zookeeper
20.0.0.20:zookeeper
20.0.0.30:zookeeper
(1)系统初始化
安装 JDK
yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
java -version
(2)安装zookeeper
20.0.0.10
[root@zx1 ~]# cd /opt/
[root@zx1 opt]# ls
apache-zookeeper-3.6.4-bin.tar.gz rh
[root@zx1 opt]# tar xf apache-zookeeper-3.6.4-bin.tar.gz
[root@zx1 opt]# mv apache-zookeeper-3.6.4-bin /usr/local/zookeeper
[root@zx1 opt]# cd /usr/local/zookeeper/
[root@zx1 zookeeper]# ls
bin conf docs lib LICENSE.txt NOTICE.txt README.md README_packaging.md
[root@zx1 zookeeper]#
(3)修改配置文件
20.0.0.10
[root@zx1 zookeeper]# cd conf/
[root@zx1 conf]# ls
configuration.xsl log4j.properties zoo_sample.cfg
[root@zx1 conf]# cp zoo_sample.cfg zoo.cfg
[root@zx1 conf]# vim zoo.cfg
tickTime=2000 #通信心跳时间,Zookeeper服务器与客户端心跳时间,单位毫秒
initLimit=10 #Leader和Follower初始连接时能容忍的最多心跳数(tickTime的数量),这里表示为10*2s
syncLimit=5 #Leader和Follower之间同步通信的超时时间,这里表示如果超过5*2s,Leader认为Follwer死掉,并从服务器列表中删除Follwer
dataDir=/usr/local/zookeeper/data ● 12行修改,指定保存Zookeeper中的数据的目录,目录需要单独创建
dataLogDir=/usr/local/zookeeper/logs ●添加,指定存放日志的目录,目录需要单独创建
clientPort=2181 #客户端连接端口
#添加集群信息
server.1=20.0.0.10:3188:3288
server.2=20.0.0.20:3188:3288
server.3=20.0.0.30:3188:3288
-------------------------------------------------------------------------------------
server.A=B:C:D
●A是一个数字,表示这个是第几号服务器。集群模式下需要在zoo.cfg中dataDir指定的目录下创建一个文件myid,这个文件里面有一个数据就是A的值,Zookeeper启动时读取此文件,拿到里面的数据与zoo.cfg里面的配置信息比较从而判断到底是哪个server。
●B是这个服务器的地址。
●C是这个服务器Follower与集群中的Leader服务器交换信息的端口。
●D是万一集群中的Leader服务器挂了,需要一个端口来重新进行选举,选出一个新的Leader,而这个端口就是用来执行选举时服务器相互通信的端口。
[root@zx1 conf]# cd /usr/local/zookeeper
[root@zx1 zookeeper]# mkdir data logs
[root@zx1 zookeeper]# ls
bin conf data docs lib LICENSE.txt logs NOTICE.txt README.md README_packaging.md
[root@zx1 zookeeper]# echo 1 > data/myid
[root@zx1 local]# scp -r zookeeper/ 20.0.0.20:/usr/local/
[root@zx1 local]# scp -r zookeeper/ 20.0.0.30:/usr/local/
20.0.0.20
[root@zx2 ~]# cd /usr/local/zookeeper
[root@zx2 zookeeper]# ls
bin conf data docs lib LICENSE.txt logs NOTICE.txt README.md README_packaging.md
[root@zx2 zookeeper]# echo 2 > data/myid
[root@zx2 zookeeper]# cat data/myid
2
[root@zx2 zookeeper]#
20.0.0.30
[root@zx3 ~]# cd /usr/local/zookeeper/
[root@zx3 zookeeper]# ls
bin conf data docs lib LICENSE.txt logs NOTICE.txt README.md README_packaging.md
[root@zx3 zookeeper]# echo 3 > data/myid
[root@zx3 zookeeper]# cat data/myid
3
[root@zx3 zookeeper]#
(4)启动zookeeper
三台服务器同样操作
cd /usr/local/zookeeper/bin
./zkServer.sh start
netstat -lntp | grep 2181
本实验中zookeeper启动顺序:20.0.0.10>20.0.0.20>20.0.0.30
查看各服务器zookeeper状态
./zkServer.sh status