Kafka学习之（五）搭建kafka集群之Zookeeper集群搭建

时间：2023-03-09 07:27:21
Kafka学习之（五）搭建kafka集群之Zookeeper集群搭建

Zookeeper是一种在分布式系统中被广泛用来作为：分布式状态管理、分布式协调管理、分布式配置管理、和分布式锁服务的集群。kafka增加和减少服务器都会在Zookeeper节点上触发相应的事件kafka系统会捕获这些事件，进行新一轮的负载均衡，客户端也会捕获这些事件来进行新一轮的处理。

Kafka集群是把状态保存在Zookeeper中的，首先要搭建Zookeeper集群。

  • Linux服务器一台、三台、五台、（2*n+1），是否可以用偶数，不一定，其实没必要。假设集群中有3台服务器在工作，根据zookeeper的工作原理，只要有半数以上存活，那么整个集群就能对外服务，3台中超过两台超过半数，允许1台挂掉。如果有4台，那么不允许挂掉2台，因为剩余2台的话，也没有超过半数，也就是只允许挂掉1台。
  • Zookeeper是用java写的所以他的需要JAVA环境，java是运行在java虚拟机上的，本博客http://www.cnblogs.com/wt645631686/p/8267239.html有安装方法。
  • Zookeeper的稳定版本Zookeeper 3.4.6版本

开始搭建

一、环境准备

环境：Centos6，三台服务器，分别是192.168.244.131、192.168.244.133、192.168.244.134，Java版本1.8

Zookeeper3..4下载地址  链接：https://pan.baidu.com/s/1XlQ4viDo-q0J66geFyErvQ 提取码：h7to

二、目录创建

在每台机器的/usr/local/创建zookeeper目录，然后分别下载Zookeeper的tag包到/usr/local/zookeeper（项目目录）目录下，在/usr/local/zookeeper创建zkdata（存放快照日志）和zkdataLog（存放事务日志）目录，用于zookeeper的配置。

Kafka学习之（五）搭建kafka集群之Zookeeper集群搭建

三、解压包，并复制、修改配置文件

# tar -zxvf zookeeper-3.4..tar.gz

# cd zookeeper-3.4./conf/

# cp zoo_sample.cfg zoo.cfg  //zoo_sample.cfg  这个文件是官方给我们的zookeeper的样板文件，给他复制一份命名为zoo.cfg，zoo.cfg是官方指定的文件命名规则。
//--------------------------------conf start------------------------

# The number of milliseconds of each tick

tickTime=  //这个时间是作为 Zookeeper 服务器之间或客户端与服务器之间维持心跳的时间间隔，也就是每个 tickTime 时间就会发送一个心跳。

# The number of ticks that the initial

# synchronization phase can take

initLimit=  //这个配置项是用来配置 Zookeeper 接受客户端（这里所说的客户端不是用户连接 Zookeeper 服务器的客户端，而是 Zookeeper 服务器集群中连接到 Leader 的 Follower 服务器）初始化连接时最长能忍受多少个心跳时间间隔数。当已经超过 5个心跳的时间（也就是 tickTime）长度后 Zookeeper 服务器还没有收到客户端的返回信息，那么表明这个客户端连接失败。总的时间长度就是 5*2000=10 秒，10秒内要启动集群并出现leader和floower。

# The number of ticks that can pass between

# sending a request and getting an acknowledgement

syncLimit=  //这个配置项标识 Leader 与Follower 之间发送消息，请求和应答时间长度，最长不能超过多少个 tickTime 的时间长度，总的时间长度就是5*2000=10秒，超出时间认为是死机。

# the directory where the snapshot is stored.

# do not use /tmp for storage, /tmp here is just

# example sakes.

dataDir=/usr/local/zookeeper/zkdata  //快照日志的存储路径

dataLogDir=/usr/local/zookeeper/zkdataLog  //事物日志的存储路径，如果不配置这个那么事物日志会默认存储到dataDir制定的目录，这样会严重影响zk的性能，当zk吞吐量较大的时候，产生的事物日志、快照日志太多

# the port at which the clients will connect

clientPort=  //这个端口就是客户端连接 Zookeeper 服务器的端口，Zookeeper 会监听这个端口，接受客户端的访问请求。修改他的端口改大点

server.=192.168.244.131::

server.=192.168.244.133::

server.=192.168.244.134::

# the maximum number of client connections.

# increase this if you need to handle more clients

#maxClientCnxns=

//-------------------------------conf end-----------------------------------

//server.1 这个1是服务器的标识也可以是其他的数字， 表示这个是第几号服务器，用来标识服务器，这个标识要写到快照目录下面myid文件里

//192.168.244.131为集群里的IP地址，第一个端口是master和slave之间的通信端口，默认是2888，第二个端口是leader选举的端口，集群刚启动的时候选举或者leader挂掉之后进行新的选举的端口默认是3888

四、每台服务器创建myid文件

既然在配置文件中设定了每台机器的标识，标识要写在快照目录下面，需要进入zkdata目录下创建，对应好配置文件的ip，和server id。

//server1  192.168.244.131

#echo "" > /usr/local/zookeeper/zkdata/myid

//server2  192.168.244.133

# echo "" > /usr/local/zookeeper/zkdata/myid

//server3  192.168.244.134

# echo "" > /usr/local/zookeeper/zkdata/myid

五、启动三台zookeeper

进入每台zookeeper服务器的/usr/local/zookeeper/zookeeper-3.4.6/bin目录，启动zkServer

# ./zkServer.sh   //查看有哪些命令

JMX enabled by default

Using config: /usr/local/zookeeper/zookeeper-3.4./bin/../conf/zoo.cfg

Usage: ./zkServer.sh {start|start-foreground|stop|restart|status|upgrade|print-cmd}
# ./zkServer.sh  start  //启动

JMX enabled by default

Using config: /usr/local/zookeeper/zookeeper-3.4./bin/../conf/zoo.cfg

Starting zookeeper ... STARTED

下面查看每台zookeeper的状态，这里可能会报错，先把每台的防火墙关掉再执行查看命令

192.168.244.131

# ./zkServer.sh status    //192.168.244.131

JMX enabled by default

Using config: /usr/local/zookeeper/zookeeper-3.4./bin/../conf/zoo.cfg

Mode: follower

192.168.244.133

# ./zkServer.sh  status

JMX enabled by default

Using config: /usr/local/zookeeper/zookeeper-3.4./bin/../conf/zoo.cfg

Mode: leader

192.168.244.134

# ./zkServer.sh  status

JMX enabled by default

Using config: /usr/local/zookeeper/zookeeper-3.4./bin/../conf/zoo.cfg

Mode: follower

leader是表示领导，follower表示是属下，zookeeper集群一般只有一个leader，多个follower，主(leader)一般是相应客户端的读写请求，向（follower）发送数据，而从(follower)主要是同步数据，当主挂掉之后就会从follower里重新选举一个leader出来。

到此，zookeeper集群搭建完毕。

可以用“jps”查看zk的进程，这个是zk的整个工程的main

# jps

 Jps

 QuorumPeerMain  //zk工程的类

其他说明

一、log4j.properties配置文件

  • https://www.cnblogs.com/30go/p/7200739.html
  • https://www.cnblogs.com/likui360/p/7992982.html
  • https://blog.csdn.net/damacheng/article/details/42393827

二、zkEnv.sh和zkServer.sh文件

  • zkServer.sh 主的管理程序文件
  • zkEnv.sh 是主要配置，zookeeper集群启动时配置环境变量的文件

三、事务日志文件的清理（zoo.cfg的dataLogDir配置项）

工作时会产生大量日志，不清理会沾满自盘，所以需要清理。

官网说明：http://zookeeper.apache.org/doc/r3.3.3/zookeeperAdmin.html#sc_maintenance

Kafka学习之（五）搭建kafka集群之Zookeeper集群搭建

ZooKeeper server will not remove old snapshots and log files when using the default configuration (see autopurge below), this is the responsibility of the operator

使用默认配置时，ZooKeeper服务器不会删除旧的快照和日志文件（参见下面的自动清除），这是操作员的职责。

自动定时定期清理的脚本，每台机器都需要设定同样的定时任务

#!/bin/bash 

#snapshot file dir

dataDir=/usr/local/zookeeper/zkdata/version-

#tran log dir

dataLogDir=/usr/local/zookeeper/zkdatalog/version-

#Leave  files

count=

count=$[$count+]

ls -t $dataLogDir/log.* | tail -n +$count | xargs rm -f

ls -t $dataDir/snapshot.* | tail -n +$count | xargs rm -f 

#以上这个脚本定义了删除对应两个目录中的文件，保留最新的66个文件，可以将他写到crontab中，设置为每天凌晨2点执行一次就可以了。

#zk log dir   del the zookeeper log

#logDir=

#ls -t $logDir/zookeeper.log.* | tail -n +$count | xargs rm -f

举例，让每个星期天的0点0分执行。

# crontab -e

  * *  sh /usr/local/zookeeper/cleanup.sh  //分时日月周，周是0-6,0表示周日

# crontab -l
sh /usr/local/zookeeper/cleanup.sh

其他方法：

①使用ZK的工具类PurgeTxnLog，它的实现了一种简单的历史文件清理策略，可以在这里看一下他的使用方法 http://zookeeper.apache.org/doc/r3.4.6/zookeeperAdmin.html
②对于上面这个执行，ZK自己已经写好了脚本，在bin/zkCleanup.sh中，所以直接使用这个脚本也是可以执行清理工作的。
③从3.4.0开始，zookeeper提供了自动清理snapshot和事务日志的功能，通过配置 autopurge.snapRetainCount 和 autopurge.purgeInterval 这两个参数能够实现定时清理了。这两个参数都是在zoo.cfg中配置的：
autopurge.purgeInterval 这个参数指定了清理频率，单位是小时，需要填写一个1或更大的整数，默认是0，表示不开启自己清理功能。
autopurge.snapRetainCount 这个参数和上面的参数搭配使用，这个参数指定了需要保留的文件数目。默认是保留3个。
推荐使用脚本清理，对于运维人员来说，将日志清理工作独立出来，便于统一管理也更可控。

相关文章