Zookeeper下载本地模式安装集群操作

Posted W_yhhh

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了Zookeeper下载本地模式安装集群操作相关的知识，希望对你有一定的参考价值。

目录

1、Zookeeper下载地址

2 、本地模式安装

2.1安装前准备

2.2配置修改

2.3操作 Zookeeper

2.4配置参数解读

3、集群操作

3.1 集群安装

3.2 ZK 集群启动停止脚本

4、客户端命令行操作

4.1、命令行语法 

4.2、znode 节点数据信息

4.3点类型（持久/短暂/有序号/无序号）

 ​编辑

4.4监听器原理 

4.5节点删除与查看

1、Zookeeper下载地址

1）官网首页： https://zookeeper.apache.org/

 

2 、本地模式安装

2.1安装前准备

（1）安装 JDK

（2）拷贝 apache-zookeeper-3.5.7-bin.tar.gz 安装包到 Linux 系统下

（3）解压到指定目录

[atguigu@hadoop102 software]$ tar -zxvf apache-zookeeper-3.5.7bin.tar.gz -C /opt/module/

（4）修改名称

[atguigu@hadoop102 module]$ mv apache-zookeeper-3.5.7 -bin/ zookeeper-3.5.7

2.2配置修改

（1） 将/opt/module/zookeeper-3.5.7/conf 这个路径下的 zoo_sample.cfg 修改为 zoo.cfg；

[atguigu@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

（2）打开 zoo.cfg 文件，修改 dataDir 路径：

[atguigu@hadoop102 zookeeper-3.5.7]$ vim zoo.cfg

修改如下内容：

dataDir=/opt/module/zookeeper-3.5.7/zkData

（3）在/opt/module/zookeeper-3.5.7/这个目录上创建 zkData 文件夹

[atguigu@hadoop102 zookeeper-3.5.7]$ mkdir zkData

2.3操作 Zookeeper

（1） 启动 Zookeeper

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start

（2）查看进程是否启动

[atguigu@hadoop102 zookeeper-3.5.7]$ jps

4020 Jps

4001 QuorumPeerMain

（3）查看状态

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh status

ZooKeeper JMX enabled by default

Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg

Mode: standalone

（4）启动客户端

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkCli.sh

（5）退出客户端：

[zk: localhost:2181(CONNECTED) 0] quit

（6）停止 Zookeeper

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh stop

2.4配置参数解读

Zookeeper中的配置文件zoo.cfg中参数含义解读如下：

（1）tickTime = 2000：通信心跳时间，Zookeeper服务器与客户端心跳时间，单位毫秒

 （2）initIimit=10:LF初始通信时限

 

Leader和Follower初始连接时能容忍的最多心跳数（tickTime的数量）

（3）syncLimit = 5：LF同步通信时限

 

Leader和Follower之间通信时间如果超过syncLimit * tickTime，Leader认为Follwer死

掉，从服务器列表中删除Follwer。

（4）dataDir：保存Zookeeper中的数据

注意：默认的tmp目录，容易被Linux系统定期删除，所以一般不用默认的tmp目录。

（5）clientPort = 2181：客户端连接端口，通常不做修改。

3、集群操作

3.1 集群安装

（1）集群规划

在 hadoop102、hadoop103 和 hadoop104 三个节点上都部署 Zookeeper。

思考：如果是10 台服务器，需要部署多少台Zookeeper？ 

（2）解压安装

        ① 在 hadoop102 解压 Zookeeper 安装包到/opt/module/目录下

[atguigu@hadoop102 software]$ tar -zxvf apache-zookeeper-3.5.7bin.tar.gz -C /opt/module/

②修改 apache-zookeeper-3.5.7-bin 名称为 zookeeper-3.5.7

[atguigu@hadoop102 module]$ mv apache-zookeeper-3.5.7-bin/ zookeeper-3.5.7

（3）配置服务器编号 

①在/opt/module/zookeeper-3.5.7/这个目录下创建 zkData

[atguigu@hadoop102 zookeeper-3.5.7]$ mkdir zkData

②在/opt/module/zookeeper-3.5.7/zkData 目录下创建一个 myid 的文件

[atguigu@hadoop102 zkData]$ vi myid

在文件中添加与 server 对应的编号（注意：上下不要有空行，左右不要有空格）

2

注意：添加 myid 文件，一定要在 Linux 里面创建，在 notepad++里面很可能乱码

③拷贝配置好的 zookeeper 到其他机器上

[atguigu@hadoop102 module ]$ xsync  zookeeper-3.5.7

并分别在 hadoop103、hadoop104 上修改 myid 文件中内容为 3、4

（4）配置zoo.cfg文件

①重命名/opt/module/zookeeper-3.5.7/conf 这个目录下的 zoo_sample.cfg 为 zoo.cfg

[atguigu@hadoop102 conf]$ mv zoo_sample.cfg zoo.cfg

②打开 zoo.cfg 文件

[atguigu@hadoop102 conf]$ vim zoo.cfg

#修改数据存储路径配置

dataDir=/opt/module/zookeeper-3.5.7/zkData

#增加如下配置

#######################cluster########################## server.2=hadoop102:2888:3888 server.3=hadoop103:2888:3888 server.4=hadoop104:2888:3888

③配置参数解读

server.A=B:C:D。

        A:是一个数字，表示这个是第几号服务器；集群模式下配置一个文件 myid，这个文件在 dataDir 目录下，这个文件里面有一个数据就是 A 的值，Zookeeper 启动时读取此文件，拿到里面的数据与 zoo.cfg 里面的配置信息比较从而判断到底是哪个 server。

        B:是这个服务器的地址；

        C:是这个服务器 Follower 与集群中的 Leader 服务器交换信息的端口；

        D:是万一集群中的 Leader 服务器挂了，需要一个端口来重新进行选举，选出一个新的

Leader，而这个端口就是用来执行选举时服务器相互通信的端口。

​​​​​​​④同步 zoo.cfg 配置文件

[atguigu@hadoop102 conf]$ xsync zoo.cfg

（5）集群操作

①分别启动 Zookeeper

[atguigu@hadoop102 zookeeper-3.5.7]$ bin/zkServer.sh start

[atguigu@hadoop103 zookeeper-3.5.7]$ bin/zkServer.sh start

[atguigu@hadoop104 zookeeper-3.5.7]$ bin/zkServer.sh start

​​​​​​​②查看状态

[atguigu@hadoop102 zookeeper-3.5.7]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg

Mode: follower

[atguigu@hadoop103 zookeeper-3.5.7]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg

Mode: leader

[atguigu@hadoop104 zookeeper-3.4.5]# bin/zkServer.sh status

JMX enabled by default

Using config: /opt/module/zookeeper-3.5.7/bin/../conf/zoo.cfg Mode: follower

3.2 ZK 集群启动停止脚本

1）、在 hadoop102 的/home/atguigu/bin 目录下创建脚本

[atguigu@hadoop102 bin]$ vim zk.sh

 在脚本中编写如下内容

#!/bin/bash

 case $1 in "start")

 for i in hadoop102 hadoop103 hadoop104

 do

        echo ---------- zookeeper $i 启动 ------------   ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh start"

 done

;; "stop")

 for i in hadoop102 hadoop103 hadoop104

 do

        echo ---------- zookeeper $i 停止 ------------       ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh stop"

 done

;; "status")

 for i in hadoop102 hadoop103 hadoop104

 do

        echo ---------- zookeeper $i 状态 ------------       ssh $i "/opt/module/zookeeper-3.5.7/bin/zkServer.sh status"  done

;; esac
  1. ）增加脚本执行权限

[atguigu@hadoop102 bin]$ chmod u+x zk.sh

2)  Zookeeper 集群启动脚本

[atguigu@hadoop102 module]$ zk.sh start

3）Zookeeper 集群停止脚本

[atguigu@hadoop102 module]$ zk.sh stop

4、客户端命令行操作

4.1、命令行语法 

命令基本语法

功能描述

help

显示所有操作命令

ls path 

使用 ls 命令来查看当前 znode 的子节点 [可监听]

-w  监听子节点变化

-s   附加次级信息

create

普通创建

-s  含有序列

-e  临时（重启或者超时消失）

get path 

获得节点的值 [可监听]

-w  监听节点内容变化

-s   附加次级信息

set

设置节点的具体值

stat

查看节点状态

delete

删除节点

deleteall

递归删除节点

（1）启动客户端

[atguigu@hadoop102 hadoop102:2181

zookeeper-3.5.7]$ bin/zkCli.sh

-server

（2）显示所有操作命令

[zk: hadoop102:2181(CONNECTED) 1] help

4.2、znode 节点数据信息

1）查看当前znode中所包含的内容

[zk: hadoop102:2181(CONNECTED) 0] ls /

[zookeeper]

2）查看当前节点详细数据

[zk: hadoop102:2181(CONNECTED) 5] ls -s /

[zookeeper]cZxid = 0x0

ctime = Thu Jan 01 08:00:00 CST 1970 mZxid = 0x0

mtime = Thu Jan 01 08:00:00 CST 1970 pZxid = 0x0 cversion = -1 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 0 numChildren = 1

（1）czxid：创建节点的事务 zxid 每次修改 ZooKeeper 状态都会产生一个 ZooKeeper 事务 ID。事务 ID 是 ZooKeeper 中所有修改总的次序。每次修改都有唯一的 zxid，如果 zxid1 小于 zxid2，那么 zxid1 在 zxid2 之前发生。

（2）ctime：znode 被创建的毫秒数（从 1970 年开始）

（3）mzxid：znode 最后更新的事务 zxid

（4）mtime：znode 最后修改的毫秒数（从 1970 年开始）

（5）pZxid：znode 最后更新的子节点 zxid

（6）cversion：znode 子节点变化号，znode 子节点修改次数

（7） dataversion：znode 数据变化号 

（8）aclVersion：znode 访问控制列表的变化号

（9）ephemeralOwner：如果是临时节点，这个是 znode 拥有者的 session id。如果不是临时节点则是 0。

（10） dataLength：znode 的数据长度

（11） numChildren：znode 子节点数量

4.3点类型（持久/短暂/有序号/无序号）

 

1）分别创建2个普通节点（永久节点 + 不带序号）

[zk: localhost:2181(CONNECTED) 3] create /sanguo "diaochan"

Created /sanguo

[zk: localhost:2181(CONNECTED) 4] create /sanguo/shuguo

"liubei"

Created /sanguo/shuguo

 注意：创建节点时，要赋值

2）获得节点的值

[zk: localhost:2181(CONNECTED) 5] get -s /sanguo diaochan

cZxid = 0x100000003

ctime = Wed Aug 29 00:03:23 CST 2018 mZxid = 0x100000003

mtime = Wed Aug 29 00:03:23 CST 2018 pZxid = 0x100000004 cversion = 1 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0

dataLength = 7 numChildren = 1

 

[zk: localhost:2181(CONNECTED) 6] get -s /sanguo/shuguo liubei

cZxid = 0x100000004

ctime = Wed Aug 29 00:04:35 CST 2018 mZxid = 0x100000004

mtime = Wed Aug 29 00:04:35 CST 2018 pZxid = 0x100000004 cversion = 0 dataVersion = 0 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 6 numChildren = 0

3）创建带序号的节点（永久节点 + 带序号） 

（1）先创建一个普通的根节点/sanguo/weiguo

[zk: localhost:2181(CONNECTED) 1] create /sanguo/weiguo

"caocao"

Created /sanguo/weiguo

​​​​​​​（2）创建带序号的节点

[zk:      localhost:2181(CONNECTED)      2]

create

-s

/sanguo/weiguo/zhangliao "zhangliao"

Created /sanguo/weiguo/zhangliao0000000000 

[zk:      localhost:2181(CONNECTED)      3]

create

-s

/sanguo/weiguo/zhangliao "zhangliao"

Created /sanguo/weiguo/zhangliao0000000001 

[zk:      localhost:2181(CONNECTED)      4]

/sanguo/weiguo/xuchu "xuchu"

Created /sanguo/weiguo/xuchu0000000002

create

-s

如果原来没有序号节点，序号从 0 开始依次递增。如果原节点下已有 2 个节点，则再排序时从 2 开始，以此类推。

4）创建短暂节点（短暂节点 + 不带序号 or 带序号） 

（1）创建短暂的不带序号的节点

[zk: localhost:2181(CONNECTED) 7] create -e /sanguo/wuguo

"zhouyu"

Created /sanguo/wuguo

​​​​​​​（2）创建短暂的带序号的节点

[zk: localhost:2181(CONNECTED) 2] create -e -s /sanguo/wuguo

"zhouyu"

Created /sanguo/wuguo0000000001

​​​​​​​（3）在当前客户端是能查看到的

[zk: localhost:2181(CONNECTED) 3] ls /sanguo  [wuguo, wuguo0000000001, shuguo]

​​​​​​​（4）退出当前客户端然后再重启客户端

[zk: localhost:2181(CONNECTED) 12] quit

[atguigu@hadoop104 zookeeper-3.5.7]$ bin/zkCli.sh

​​​​​​​（5）再次查看根目录下短暂节点已经删除

[zk: localhost:2181(CONNECTED) 0] ls /sanguo

[shuguo]

5）修改节点数据值

[zk: localhost:2181(CONNECTED) 6] set /sanguo/weiguo "simayi"

4.4监听器原理 

节点的值变化监听

（1）在 hadoop104 主机上注册监听/sanguo 节点数据变化

[zk: localhost:2181(CONNECTED) 26] get -w /sanguo 

（2）在 hadoop103 主机上修改/sanguo 节点的数据

[zk: localhost:2181(CONNECTED) 1] set /sanguo "xisi"

（3）观察 hadoop104 主机收到数据变化的监听

WATCHER:: WatchedEvent path:/sanguo

state:SyncConnected

type:NodeDataChanged

 注意：在hadoop103再多次修改/sanguo的值，hadoop104上不会再收到监听。因为注册

一次，只能监听一次。想再次监听，需要再次注册。

节点的子节点变化监听（路径变化）

（4）在 hadoop104 主机上注册监听/sanguo 节点的子节点变化

[zk: localhost:2181(CONNECTED) 1] ls -w /sanguo 

[shuguo, weiguo]

（5）在 hadoop103 主机/sanguo 节点上创建子节点

[zk: localhost:2181(CONNECTED) 2] create /sanguo/jin "simayi" Created /sanguo/jin

（6）观察 hadoop104 主机收到子节点变化的监听

WATCHER::

WatchedEvent state:SyncConnected type:NodeChildrenChanged path:/sanguo

注意：节点的路径变化，也是注册一次，生效一次。想多次生效，就需要多次注册。

4.5节点删除与查看

1）、删除节点

[zk: localhost:2181(CONNECTED) 4] delete /sanguo/jin

2）递归删除节点

[zk: localhost:2181(CONNECTED) 15] deleteall /sanguo/shuguo

3）、查看节点状态

[zk: localhost:2181(CONNECTED) 17] stat /sanguo cZxid = 0x100000003

ctime = Wed Aug 29 00:03:23 CST 2018 mZxid = 0x100000011

mtime = Wed Aug 29 00:21:23 CST 2018 pZxid = 0x100000014 cversion = 9 dataVersion = 1 aclVersion = 0 ephemeralOwner = 0x0 dataLength = 4 numChildren = 1

​​​​​​​

ZooKeeper 集群模式安装与启动

1. 安装

要在你的计算机上安装 ZooKeeper 框架，请访问该链接并下载最新版本的ZooKeeper。
到目前为止，最新稳定版本的 ZooKeeper是3.4.12(ZooKeeper-3.4.12.tar.gz)。

使用以下命令提取tar文件：

cd ~/opt/
$ tar -zxf zookeeper-3.4.12.tar.gz

创建软连接，便于升级：

$ sudo ln -s zookeeper-3.4.12/ zookeeper

创建数据目录：

$ cd zookeeper
$ mkdir data

2. 配置

修改 conf/zoo.cfg 配置文件：

tickTime = 2000
dataDir = /Users/smartsi/opt/zookeeper/data
clientPort = 2181
initLimit = 10
syncLimit = 5
server.1=101.34.82.15:2888:3888  
server.2=101.34.82.16:2888:3888
server.3=101.34.82.17:2888:3888

我们在三台机器上搭建 ZooKeeper 集群：101.34.82.15，101.43.28.1６，101.43.28.1７

说明：

参数|默认值|描述
—|—
initLimit | 10 | 对于从节点最初连接到主节点时的超时时间，单位为tick值的倍数。
syncLimit | 5 |对于主节点与从节点进行同步操作时的超时时间，单位为tick值的倍数。
dataDir | /tmp/zookeeper |用于配置内存数据库保存的模糊快照的目录。文件信息都存放在data目录下。
clientPort | 2181 |表示客户端所连接的服务器所监听的端口号，默认是2181。即zookeeper对外提供访问的端口号。

server.A=B:C:D 其中A是一个数字，表示这是第几号服务器。B是这台服务器的IP地址。C表示这台服务器与集群中的Leader服务器交换信息的端口。D表示的是万一集群中的Leader服务器挂了，需要一个端口来重新进行选举，选出一个新的Leader，这个端口就是用来执行选举时服务器相互通信的端口。如果是伪集群的配置方式，由于B都是一样，所以不同的zookeeper实例通信端口号不能一样，所以要给他们分配不同的端口号。

3. 创建myid文件

分别在三台机器上我们创建的data目录下新建一个 myid 文件，并进行修改：

  • 在 101.34.82.15 机器上输入1
  • 在 101.34.82.16 机器上输入2
  • 在 101.34.82.17 机器上输入3

需要确保每台服务器的 myid 文件中数字不同，并且和自己所在机器的 zoo.cfg 中 server.id=host:port:port 的id值一样。另外，id的范围是1～255。

4. 配置环境变量

分别在三台机器的上修改 /etc/profile 配置环境变量：

# ZOOKEEPER
export ZOOKEEPER_HOME=/Users/smartsi/opt/zookeeper
export PATH=$ZOOKEEPER_HOME/bin:$PATH

运行命令 source /etc/profile 使环境变量生效。

5. 启动ZooKeeper

分别在三台机器的上启动ZooKeeper，进入bin目录下执行：

[sjf0115@ying /Users/smartsi/opt/zookeeper/bin]$ sudo zkServer.sh start
ZooKeeper JMX enabled by default
Using config: /Users/smartsi/opt/zookeeper/bin/../conf/zoo.cfg
Starting zookeeper ... STARTED

当对三台机器启动后，我们用 zkServer.sh status 命令来查看启动状态：

# 101.34.82.16
ZooKeeper JMX enabled by default
Using config: /Users/smartsi/opt/zookeeper/bin/../conf/zoo.cfg
Mode: leader

# 101.34.82.15
ZooKeeper JMX enabled by default
Using config: /Users/smartsi/opt/zookeeper/bin/../conf/zoo.cfg
Mode: follower

# 101.34.82.17
ZooKeeper JMX enabled by default
Using config: /Users/smartsi/opt/zookeeper/bin/../conf/zoo.cfg
Mode: follower

三台机器会选择一台做为leader，另两台为follower。

6. 连接到ZooKeeper

使用如下命令即可连接到其中一台ZooKeeper服务器：

[sjf0115@ying ~]$ zkCli.sh -server 101.34.82.17:2181
Connecting to 101.34.82.17:2181
...
Welcome to ZooKeeper!
...
WATCHER::

WatchedEvent state:SyncConnected type:None path:null

其他自动实现同步，客户端只需要和一台保持连接即可。

成功连接后，系统会输出ZooKeeper的相关配置信息和相关环境，并在屏幕上输出 Welcome to ZooKeeper! 等信息。

以上是关于Zookeeper下载本地模式安装集群操作的主要内容，如果未能解决你的问题，请参考以下文章

ZooKeeper系列1.ZooKeeper单机版伪集群和集群环境搭建

Zookeeper 2Zookeeper的安装和配置（集群模式）

kafka_2.10-0.8.1.1.tgz的1或3节点集群的下载安装和配置（图文详细教程）绝对干货

Zookeeper 安装步骤

Zookeeper安装集群配置

Zookeeper安装集群配置