一、zookeeper集群簡(jiǎn)介
Zookeeper集群中只要有過(guò)半的節(jié)點(diǎn)是正常的情況下,那么整個(gè)集群對(duì)外就是可用的。正是基于這個(gè)特性,要將 ZK 集群的節(jié)點(diǎn)數(shù)量要為奇數(shù)(2n+1),如 3、5、7 個(gè)節(jié)點(diǎn))較為合適。
二、環(huán)境準(zhǔn)備
服務(wù)器 1:192.168.31.154 端口:2181、2881、3881 安裝用戶:dreyer03
服務(wù)器 2:192.168.31.117 端口:2182、2882、3882 安裝用戶:dreyer04
服務(wù)器 3:192.168.31.146 端口:2183、2883、3883 安裝用戶:dreyer05
三、具體安裝步驟
1、 修改每臺(tái)機(jī)器的/etc/hosts 文件,添加 IP 與主機(jī)名映射:
# vi /etc/hosts
增加:
192.168.31.154 dreyer-zk-01 192.168.31.117 dreyer-zk-02 192.168.31.146 dreyer-zk-03
2、 下載或上傳 zookeeper-3.4.6.tar.gz 到/home/dreyer/zookeeper 目錄:
$ wget http://apache.fayea.com/zookeeper/zookeeper-3.4.6/zookeeper-3.4.6.tar.gz
3、解壓zookeeper安裝包,并按照節(jié)點(diǎn)號(hào)對(duì)zookeeper目錄進(jìn)行重命名
解壓安裝包:
$ tar -zxvf zookeeper-3.4.6.tar.gz
將服務(wù)器1的zookeeper目錄重命名為node-01:
$ mv zookeeper-3.4.6 node-01
將服務(wù)器2的zookeeper目錄重命名為node-02:
$ mv zookeeper-3.4.6 node-02
將服務(wù)器3的zookeeper目錄重命名為node-03:
$ mv zookeeper-3.4.6 node-03
4、在各個(gè)zookeeper節(jié)點(diǎn)目錄創(chuàng)建data、logs目錄
$ cd /home/dreyer03/zookeeper/node-0X/(X代表節(jié)點(diǎn)號(hào)1、2、3,以下同解)
$ mkdir data
$ mkdir logs
5、將zookeeper/node-0X/conf目錄下的zoo_sample.cfg文件拷貝一份,并命名為zoo.cfg:
$ cp zoo_sample.cfg zoo.cfg
6、修改zoo.cfg配置文件
zookeeper/node-01的配置如下: tickTime=2000 initLimit=10 syncLimit=5 dataDir=/home/dreyer03/zookeeper/node-01/data dataLogDir=/home/dreyer03/zookeeper/node-01/logs clientPort=2181 server.1=dreyer-zk-01:2881:3881 server.2=dreyer-zk-02:2882:3882 server.3=dreyer-zk-03:2883:3883
zookeeper/node-02的配置如下:
tickTime=2000 initLimit=10 syncLimit=5 dataDir=/home/dreyer04/zookeeper/node-02/data dataLogDir=/home/dreyer04/zookeeper/node-02/logs clientPort=2182 server.1=dreyer-zk-01:2881:3881 server.2=dreyer-zk-02:2882:3882 server.3=dreyer-zk-03:2883:3883
zookeeper/node-03的配置如下:
tickTime=2000 initLimit=10 syncLimit=5 dataDir=/home/dreyer05/zookeeper/node-03/data dataLogDir=/home/dreyer05/zookeeper/node-03/logs clientPort=2183 server.1=dreyer-zk-01:2881:3881 server.2=dreyer-zk-02:2882:3882 server.3=dreyer-zk-03:2883:3883
參數(shù)說(shuō)明:
tickTime=2000
tickTime 這個(gè)時(shí)間是作為 Zookeeper 服務(wù)器之間或客戶端與服務(wù)器之間維持心跳的時(shí)間間隔,也就是每各tickTime 時(shí)間就會(huì)發(fā)送一個(gè)心跳。
initLimit=10
initLimit 這個(gè)配置項(xiàng)是用來(lái)配置 Zookeeper 接受客戶端(這里所說(shuō)的客戶端不是用戶連接 Zookeeper 服務(wù)器的客戶端,
而是Zookeeper 服務(wù)器集群中連接到 Leader 的 Follower 服務(wù)器)初始化連接時(shí)最長(zhǎng) 能忍受多少個(gè)心跳時(shí)間間隔數(shù)。當(dāng)已經(jīng)超過(guò)10個(gè)心跳的時(shí)間(也就是 tickTime)長(zhǎng)度后
Zookeeper 服務(wù)器還沒有收到客戶端的返回信息,那么表明這個(gè)客戶端連接失敗。總的時(shí)間長(zhǎng)度就是 102000=20 秒。
syncLimit=5
syncLimit 這個(gè)配置項(xiàng)標(biāo)識(shí) Leader與Follower之間發(fā)送消息,請(qǐng)求和應(yīng)答時(shí)間長(zhǎng)度,最長(zhǎng)不能超過(guò)多少個(gè)tickTime 的時(shí)間長(zhǎng)度,總的時(shí)間長(zhǎng)度就是 52000=10 秒。
dataDir=/home/dreyer05/zookeeper/node-03/data
dataDir 顧名思義就是 Zookeeper 保存數(shù)據(jù)的目錄,默認(rèn)情況下 Zookeeper 將寫數(shù)據(jù)的日志文件也保存在這個(gè)目錄里。
clientPort=2181
clientPort 這個(gè)端口就是客戶端(應(yīng)用程序)連接 Zookeeper服務(wù)器的端口,Zookeeper會(huì)監(jiān)聽這個(gè)端口接受客戶端的訪問(wèn)請(qǐng)求。
server.A=B:C:D
server.1=dreyer-zk-01:2881:3881
server.2=dreyer-zk-02:2882:3882
server.3=dreyer-zk-03:2883:3883
A 是一個(gè)數(shù)字,表示這個(gè)是第幾號(hào)服務(wù)器;
B 是這個(gè)服務(wù)器的 IP 地址(或者是與 IP 地址做了映射的主機(jī)名);
C 第一個(gè)端口用來(lái)集群成員的信息交換,表示這個(gè)服務(wù)器與集群中的 Leader 服務(wù)器交換信息的端口;
D 是在 leader 掛掉時(shí)專門用來(lái)進(jìn)行選舉 leader 所用的端口。 注意:如果是偽集群的配置方式,不同的 Zookeeper 實(shí)例通信端口號(hào)不能一樣,所以要給它們分配不 同的端口號(hào)。
7、在dataDir=/home/dreyer03/zookeeper/node-0X/data下創(chuàng)建myid文件
編輯myid文件,并在對(duì)應(yīng)的IP機(jī)器上輸入對(duì)應(yīng)的編號(hào),比如說(shuō)node-01上,myid文件的內(nèi)容就是1,node-02上,myid的內(nèi)容就是2,node-03上,myid的內(nèi)容就是3
$ vi /home/dreyer03/zookeeper/node-01/data/myid ##輸入值為1
$ vi /home/dreyer04/zookeeper/node-02/data/myid ##輸入值為2
$ vi /home/dreyer05/zookeeper/node-03/data/myid ##輸入值為3
8、在每臺(tái)機(jī)器的防火墻中打開要用到的端口,218X、288X、388X
切換到root用戶后:
# vi /etc/sysconfig/iptables
在服務(wù)器1號(hào)中增加:
## zookeeper -A INPUT -m state --state NEW -m tcp -p tcp --dport 2181 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 2881 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 3881 -j ACCEPT
在服務(wù)器2號(hào)中增加:
## zookeeper -A INPUT -m state --state NEW -m tcp -p tcp --dport 2182 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 2882 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 3882 -j ACCEPT
在服務(wù)器3號(hào)中增加:
## zookeeper -A INPUT -m state --state NEW -m tcp -p tcp --dport 2183 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 2883 -j ACCEPT -A INPUT -m state --state NEW -m tcp -p tcp --dport 3883 -j ACCEPT
以上,防火墻中增加端口后要記得重啟防火墻
重啟防火墻:
# service iptables restart
查看防火墻狀態(tài):
# service iptables status
9、啟動(dòng)并測(cè)試zookeeper(用普通用戶啟動(dòng),不要用root用戶)
$ /home/dreyer03/zookeeper/node-01/bin/zkServer.sh start
$ /home/dreyer04/zookeeper/node-02/bin/zkServer.sh start
$ /home/dreyer05/zookeeper/node-03/bin/zkServer.sh start
注意:
zookeeper的啟動(dòng)日志在/bin目錄下的zookeeper.out文件
在啟動(dòng)第一個(gè)節(jié)點(diǎn)后,查看日志信息會(huì)看到如下異常:
java.net.ConnectException: Connection refused at java.net.PlainSocketImpl.socketConnect(Native Method) at java.net.AbstractPlainSocketImpl.doConnect(AbstractPlainSocketImpl.java:339) at java.net.AbstractPlainSocketImpl.connectToAddress(AbstractPlainSocketImpl.java:200) at java.net.AbstractPlainSocketImpl.connect(AbstractPlainSocketImpl.java:182) at java.net.SocksSocketImpl.connect(SocksSocketImpl.java:392) at java.net.Socket.connect(Socket.java:579) at org.apache.zookeeper.server.quorum.QuorumCnxManager.connectOne(QuorumCnxManager.java:368) at org.apache.zookeeper.server.quorum.QuorumCnxManager.connectAll(QuorumCnxManager.java:402) at org.apache.zookeeper.server.quorum.FastLeaderElection.lookForLeader(FastLeaderElection.java:840) at org.apache.zookeeper.server.quorum.QuorumPeer.run(QuorumPeer.java:762) 2016-07-30 17:13:16,032 [myid:1] - INFO [QuorumPeer[myid=1]/0:0:0:0:0:0:0:0:2181:FastLeaderElection@849] - Notification time out: 51200
這是正常的,因?yàn)榕渲梦募信渲昧舜斯?jié)點(diǎn)是屬于集群中的一個(gè)節(jié)點(diǎn),zookeeper集群只有在過(guò)半的節(jié)點(diǎn)是正常的情況下,此節(jié)點(diǎn)才會(huì)正常,它是一直在檢測(cè)集群其他兩個(gè)節(jié)點(diǎn)的啟動(dòng)的情況。
那在我們啟動(dòng)第二個(gè)節(jié)點(diǎn)之后,我們會(huì)看到原先啟動(dòng)的第一個(gè)節(jié)點(diǎn)不會(huì)在報(bào)錯(cuò),因?yàn)檫@時(shí)候已經(jīng)有過(guò)半的節(jié)點(diǎn)是正常的了。
10、查看zookeeper的狀態(tài)
$ /home/dreyer03/zookeeper/node-01/bin/zkServer.sh status
會(huì)看到輸出信息:
JMX enabled by default Using config: /home/dreyer03/zookeeper/node-01/bin/../conf/zoo.cfg Mode: follower
Mode:follower表示此節(jié)點(diǎn)為從節(jié)點(diǎn)
Mode: leader表示此節(jié)點(diǎn)為主節(jié)點(diǎn)
11、停止zookeeper進(jìn)程
$ /home/dreyer04/zookeeper/node-02/bin/zkServer.sh stop
在我們停止主節(jié)點(diǎn)之后,我們查看另外另個(gè)從節(jié)點(diǎn)的狀態(tài)可以看到,原先的一個(gè)從節(jié)點(diǎn)會(huì)被重新選舉為主節(jié)點(diǎn)。
12、設(shè)置zookeeper開機(jī)啟動(dòng)
編輯node-01、node-02、node-03節(jié)點(diǎn)所在服務(wù)器的/etc/rc.local文件,分別加入:
su - dreyer03-c '/home/dreyer03/zookeeper/node-01/bin/zkServer.sh start'
su - dreyer04-c '/home/dreyer04/zookeeper/node-02/bin/zkServer.sh start'
su - dreyer05-c '/home/dreyer05/zookeeper/node-03/bin/zkServer.sh start'