ZooKeeper

Posted 2020-08-07 吉屋技术团队博客

　　ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，是Hadoop和Hbase的重要组件，为分布式应用提供一致性服务的软件。

　　ZooKeeper是以Fast Paxos算法为基础,实现同步服务,配置维护和命名服务等分布式应用。

　　ZooKeeper为分布式系统提供了高效可靠且易于使用的协同服务，可以为分布式应用提供相当多的服务，诸如统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理和组服务等。

1.ZooKeeper设计目的

　　1.最终一致性：client不论连接到哪个Server，展示给它都是同一个视图，这是zookeeper最重要的性能。

　　2 .可靠性：具有简单、健壮、良好的性能，如果消息m被一台服务器接受，那么它将被所有的服务器接受。

　　3 .实时性：Zookeeper保证客户端将在一个时间间隔范围内获得服务器的更新信息，或者服务器失效的信息。但由于网络延时等原因，Zookeeper不能保证两个客户端能同时得到刚更新的数据，如果需要最新数据，应该在读数据之前调用sync()接口。

　　4 .等待无关（wait-free）：慢的或者失效的client不得干预快速的client的请求，使得每个client都能有效的等待。

　　5.原子性：更新只能成功或者失败，没有中间状态。

　　6 .顺序性：包括全局有序和偏序两种：全局有序是指如果在一台服务器上消息a在消息b前发布，则在所有Server上消息a都将在消息b前被发布；偏序是指如果一个消息b在消息a后被同一个发送者发布，a必将排在b前面。

2.ZooKeeper数据模型

　　ZooKeeper的数据模型有些像操作系统的文件结构，如下图

　　

　　(1)  每个节点在zookeeper中叫做znode，并且其有一个唯一的路径标识，如/SubApp1节点的标识就为/APP3/SubApp1

　　(2)  Znode可以有子znode，并且znode里可以存数据，但是EPHEMERAL类型的节点不能有子节点

　　(3)  每个Znode维护着一个属性结构，它包含着版本号，ACL变更(访问控制)，时间戳等元数据信息

　　(4)  Znode是具有层次结构、可共享的、结构与文件系统的目录结构类似　　

3.Znode特性

　　(1)  watches:

　　　　客户端可以在节点上设置watch(我们成为监视器)。当节点的状态发生改变时(数据的增、删、改等操作)将会触发watch对应的操作。当watch被触发时

　　　　ZooKeeper将会向客户端发送仅发送一个通知，因为watch只能被触发一次。

　　(2)  数据访问

　　　　ZooKeeper中的每个节点上存储的数据需要被原子性的操作。也就是说，读操作将获取与节点相关的所有数据，写操作也将替换节点的所有数据。另外

　　　　每一个节点拥有自己的ACL（访问控制列表），这个列表规定的用户的权限，即限定了特定用户对目标节点可以执行的操作。

　　(3)  临时节点

　　　　ZooKeeper中的节点有两种，分别为临时节点和永久节点。节点的类型在创建时即被确定，并且不能改变。ZooKeeper临时节点的生命周期依赖于创建

　　　　于它们的会话。一旦会话结束，临时节点将被自动删除，当然也可以手动删除。另外，需要注意的是，ZooKeeper的临时节点不允许拥有子节点。相反

　　　　永久节点的生命周期不依赖与会话，并且只有在客户端显示执行删除操作的时候，它们才被删除。 

　　(4)  顺序节点(唯一性的保证)

　　　　当创建Znode的时候，用户可以请求ZooKeeper生出序列，一路径名为前缀，连击数起紧接在路径名后面。

4.Znode属性结构

　　ZooKeeper中使用Zxid来表示每次节点数据变更，一个Zxid与一个时间戳对应，所以多个不同的变更对应的事务是有序的。下面是Znode的组成结构：

　　　　czxid 　　　　 　　　　节点被创建的Zxid值

　　　　mzxid　　　　　　　　 节点被修改的Zxid值

　　　　ctime　　　　 　　　　 节点被创建的时间

　　　　mtime　　　　 　　　　节点最后一次被修改的时间

　　　　versoin　　　　　　　　节点被修改的版本号

　　　　cversion　　　  　　　　节点的所拥有子节点被修改的版本号　

　　　　aversion　　　　　　　　节点的ACL被修改的版本号

　　　　emphemeralOwner　　　如果此节点为临时节点，那么它的值为这个节点拥有者的会话ID；否则，它的值为0

　　　　dataLength　　　　　　　节点数据域的长度

　　　　numChildren　　　　　　节点拥有的子节点个数

5.ZooKeeper系统模型

　　　　

 

　　　

1. 客户端可以连接到每个server，每个server的数据完全相同。
2. 每个follower都和leader有连接，接受leader的数据更新操作。
3. Server记录事务日志和快照到持久存储。
4. 大多数server可用，整体服务就可用。

 6.ZooKeeper工作原理

　　Zookeeper的核心是原子广播，这个机制保证了各个Server之间的同步。实现这个机制的协议叫做Zab协议。Zab协议有两种模式，它们分别是恢复模式（选主）和广播

　　模式（同步）。当服务启动或者在领导者崩溃后，Zab就进入了恢复模式，当领导者被选举出来，且大多数Server完成了和leader的状态同步以后，恢复模式就结束了状

　　态同步保证了leader和Server具有相同的系统状态。

　　为了保证事务的顺序一致性，zookeeper采用了递增的事务id号（zxid）来标识事务。所有的提议（proposal）都在被提出的时候加上了zxid。实现中zxid是一个64位的

　　数字，它高32位是epoch用来标识leader关系是否改变，每次一个leader被选出来，它都会有一个新的epoch，标识当前属于那个leader的统治时期。低32位用于递增计数。

　　每个Server在工作过程中有三种状态：　　

　　　　LOOKING：当前Server不知道leader是谁，正在搜寻

　　　　LEADING：当前Server即为选举出来的leader

　　　　FOLLOWING：leader已经选举出来，当前Server与之同步

7.Zookeeper工作流程--选主流程

　　当leader崩溃或者leader失去大多数的follower，这时候zk进入恢复模式，恢复模式需要重新选举出一个新的leader，让所有的Server都恢复到一个正确的状态。Zk的选举

　　算法有两种：一种是基于basic paxos实现的，另外一种是基于fast paxos算法实现的

　　(1)  basic paxos流程　　　　　　　　　　　　　　　　　　　　　　　　(2)  fast paxos流程

　　　　　　　　　　　

 

 8.Zookeeper工作流程--同步流程

　　　　1. leader等待server连接；

　　　　2 .Follower连接leader，将最大的zxid发送给leader；

　　　　3 .Leader根据follower的zxid确定同步点　

　　　　4 .完成同步后通知follower 已经成为uptodate状态；

　　　　5 .Follower收到uptodate消息后，又可以重新接受client的请求进行服务了。

　　　　流程图如下：

　　　　

9.Leader工作流程

Leader主要有三个功能：

1. 1 .恢复数据；

2. 2 .维持与Learner的心跳，接收Learner请求并判断Learner的请求消息类型；

3. 3 .Learner的消息类型主要有PING消息、REQUEST消息、ACK消息、REVALIDATE消息，根据不同的消息类型，进行不同的处理。

　　PING消息是指Learner的心跳信息；REQUEST消息是Follower发送的提议信息，包括写请求及同步请求；ACK消息是Follower的对提议的回复，超过半数的Follower通过

　　则commit该提议；REVALIDATE消息是用来延长SESSION有效时间。
　　Leader的工作流程简图如下所示：

　　

10.Follower工作流程

　　Follower主要有四个功能：

　　　　1. 向Leader发送请求（PING消息、REQUEST消息、ACK消息、REVALIDATE消息）；

　　　　2 .接收Leader消息并进行处理；

　　　　3 .接收Client的请求，如果为写请求，发送给Leader进行投票；

　　　　4 .返回Client结果。

　　Follower的消息循环处理如下几种来自Leader的消息：

　　　　1 .PING消息： 心跳消息；

　　　　2 .PROPOSAL消息：Leader发起的提案，要求Follower投票；

　　　　3 .COMMIT消息：服务器端最新一次提案的信息；

　　　　4 .UPTODATE消息：表明同步完成；

　　　　5 .REVALIDATE消息：根据Leader的REVALIDATE结果，关闭待revalidate的session还是允许其接受消息；

　　　　6 .SYNC消息：返回SYNC结果到客户端，这个消息最初由客户端发起，用来强制得到最新的更新。

　　　　Follower的工作流程简图如下所示:

　　　　

11.Zookeeper应用场景

　　数据发布于订阅(配置中心)

　　负载均衡

　　命名服务

　　分布式通知/协调

　　集群管理与master选举

　　集群机器监控

　　分布式锁

资料：

　　安装和使用:http://www.ibm.com/developerworks/cn/opensource/os-cn-zookeeper/

　　源码：http://www.csdn.net/tag/zookeeper/download