因为工作需求需要进行kafka集群和zookeeper集群的安装。
第一步:准备工作。
1、准备三个机器节点,并配置在vim /etc/hosts 中:
192.168.0.8 node1
192.168.0.9 node2
192.168.0.10 node3
2、下载安装包:zookeeper-3.4.9.tar.gz和kafka_2.10-0.10.0.0.tgz
3、创建目录:mkdir -p /root/zookeeper/data 和mkdir -p /root/kafka/data/kafka-logs
4、解压tar包:tar -zxvf zookeeper-3.4.9.tar.gz /root/zookeeper/ 和 tar -zxvf kafka_2.10-0.10.0.0.tgz /root/kafka/
第二步:zookeeper的集群安装
先配置node1,然后再scp到node2和node3上面。
cd /root/zookeeper/zookeeper-3.4.9
1、配置zookeeper的配置文件 zoo.cfg
cd conf
创建zoo.cfg文件: cp zoo_sample.cfg zoo.cfg
编辑配置文件: vim zoo.cfg
dataDir=/root/zookeeper/data (默认情况下Zookeeper将写数据的日志文件也保存在这个目录里)
clientPort=2181 (默认)
server.1=node1:2887:3887
server.2=node2:2888:3888
server.3=node3:2889:3889
特此说明:server.A=B:C:D
A是一个数字,表示这个是第几号服务器,B是这个服务器的ip地址。
C第一个端口用来集群成员的信息交换,表示的是这个服务器与集群中的Leader服务器交换信息的端口。
D是在leader挂掉时专门用来进行选举leader所用。
2、创建ServerID标识
集群模式下还要配置一个文件myid,这个文件在dataDir目录下,这个文件里面就有一个数据就是A的值,在上面配置文件中zoo.cfg中配置的dataDir路径中创建myid文件。
cd /root/zookeeper/data
vim myid 输入:1
3、复制node1到nide2和node3
scp -r cd /root/zookeeper/zookeeper-3.4.9/ root@192.168.0.9:/root/zookeeper/
修改myid: vim myid 将1修改为2
scp -r cd /root/zookeeper/zookeeper-3.4.9/ root@192.168.0.10:/root/zookeeper/
修改myid: vim myid 将1修改为3
4、启动并检测zookeeper集群启动状态
cd bin
启动node1: ./zkServer.sh start
启动node2: ./zkServer.sh start
启动node3: ./zkServer.sh start
检测node1:./zkServer.sh status
检测node2:./zkServer.sh status
检测node3:./zkServer.sh status
到这里zookeeper集群就安装成功了。
jps命令查看进程QuorumPeerMain存在不?
第三步:kafka的集群安装
先配置node1,然后再scp到node2和node3上面。
cd /root/kafka/kafka_2.10-0.10.0.0
1、zookeeper.properties的配置
cd config
编辑: vim zookeeper.properties
dataDir=/root/zookeeper/data (与上面的zookeeper集群中的dataDir对应)
clientPort=2181 (与上面的zookeeper集群中的clientPort对应)
2、server.properties的配置
# The id of the broker. This must be set to a unique integer for each broker.
broker.id=0 (从0开始)
log.dirs=/root/kafka/data/kafka-log
zookeeper.connect=node1:2181,node2:2181,node3:2181 (zookeeper集群)
3、复制node1到node2和node3
scp -r cd /root/kafka/kafka_2.10-0.10.0.0/ root@192.168.0.9:/root/kafka/
修改server.properties :vim server.properties 将broker.id=0改为broker.id=1
scp -r cd /root/kafka/kafka_2.10-0.10.0.0/ root@192.168.0.10:/root/kafka/
修改server.properties :vim server.properties 将broker.id=0改为broker.id=2
4、启动并检测kafka集群
启动node1: ./kafka-server-start.sh server.properties
启动node2: ./kafka-server-start.sh server.properties
启动node3: ./kafka-server-start.sh server.properties
ps -ef |grep kafka可以查看kafka进程
jps查看kafka进程存在不?
到这里安装配置已经结束了。希望能与大家一起分享。