kafka集群和zookeeper集群安装

时间:2021-08-20 08:27:54

因为工作需求需要进行kafka集群和zookeeper集群的安装。

第一步:准备工作。

1、准备三个机器节点,并配置在vim /etc/hosts 中:

192.168.0.8  node1

192.168.0.9  node2

192.168.0.10 node3

2、下载安装包:zookeeper-3.4.9.tar.gz和kafka_2.10-0.10.0.0.tgz

3、创建目录:mkdir  -p /root/zookeeper/data 和mkdir  -p /root/kafka/data/kafka-logs

4、解压tar包:tar -zxvf  zookeeper-3.4.9.tar.gz /root/zookeeper/  和 tar -zxvf kafka_2.10-0.10.0.0.tgz /root/kafka/

第二步:zookeeper的集群安装

先配置node1,然后再scp到node2和node3上面。

cd /root/zookeeper/zookeeper-3.4.9

1、配置zookeeper的配置文件  zoo.cfg

cd conf

创建zoo.cfg文件: cp zoo_sample.cfg  zoo.cfg

编辑配置文件: vim zoo.cfg

dataDir=/root/zookeeper/data (默认情况下Zookeeper将写数据的日志文件也保存在这个目录里)

clientPort=2181 (默认)

server.1=node1:2887:3887
server.2=node2:2888:3888
server.3=node3:2889:3889

特此说明:server.A=B:C:D
A是一个数字,表示这个是第几号服务器,B是这个服务器的ip地址。
C第一个端口用来集群成员的信息交换,表示的是这个服务器与集群中的Leader服务器交换信息的端口。
D是在leader挂掉时专门用来进行选举leader所用。

2、创建ServerID标识

集群模式下还要配置一个文件myid,这个文件在dataDir目录下,这个文件里面就有一个数据就是A的值,在上面配置文件中zoo.cfg中配置的dataDir路径中创建myid文件。

cd  /root/zookeeper/data

vim myid   输入:1 

3、复制node1到nide2和node3

scp -r cd /root/zookeeper/zookeeper-3.4.9/  root@192.168.0.9:/root/zookeeper/

修改myid:  vim myid  将1修改为2

scp -r cd /root/zookeeper/zookeeper-3.4.9/  root@192.168.0.10:/root/zookeeper/

修改myid:  vim myid  将1修改为3

4、启动并检测zookeeper集群启动状态

cd bin

启动node1: ./zkServer.sh start

启动node2: ./zkServer.sh start

启动node3: ./zkServer.sh start

检测node1:./zkServer.sh status

检测node2:./zkServer.sh status

检测node3:./zkServer.sh status

到这里zookeeper集群就安装成功了。

jps命令查看进程QuorumPeerMain存在不?

第三步:kafka的集群安装 

先配置node1,然后再scp到node2和node3上面。

cd  /root/kafka/kafka_2.10-0.10.0.0

1、zookeeper.properties的配置

cd config

编辑: vim zookeeper.properties

dataDir=/root/zookeeper/data  (与上面的zookeeper集群中的dataDir对应)
clientPort=2181   (与上面的zookeeper集群中的clientPort对应)

2、server.properties的配置

# The id of the broker. This must be set to a unique integer for each broker.
broker.id=0  (从0开始)

log.dirs=/root/kafka/data/kafka-log

zookeeper.connect=node1:2181,node2:2181,node3:2181  (zookeeper集群)

3、复制node1到node2和node3

scp -r cd /root/kafka/kafka_2.10-0.10.0.0/  root@192.168.0.9:/root/kafka/

修改server.properties :vim server.properties  将broker.id=0改为broker.id=1

scp -r cd /root/kafka/kafka_2.10-0.10.0.0/  root@192.168.0.10:/root/kafka/

修改server.properties :vim server.properties  将broker.id=0改为broker.id=2

4、启动并检测kafka集群

启动node1: ./kafka-server-start.sh  server.properties

启动node2: ./kafka-server-start.sh  server.properties

启动node3: ./kafka-server-start.sh  server.properties

 ps -ef |grep kafka可以查看kafka进程

 jps查看kafka进程存在不?

 

到这里安装配置已经结束了。希望能与大家一起分享。