Kudu的集群安装(1.6.0-cdh5.14.0)

时间:2021-10-17 10:59:02

kudu的架构体系

下图显示了一个具有三个 master 和多个 tablet server 的 Kudu 集群,每个服务器都支持多个 tablet。它说明了如何使用 Raft 共识来允许 master 和 tablet server 的 leader 和 f ollow。此外,tablet server 可以成为某些 tablet 的 leader,也可以是其他 tablet 的 follower。leader 以金色显示,而 follower 则显示为蓝色。

Kudu的集群安装(1.6.0-cdh5.14.0)

下面是一些基本概念:

Table(表)
  一张 talbe 是数据存储在 Kudu 的位置。表具有 schema 和全局有序的 primary key(主键)。table 被分成称为 tablets 的 segments。
Tablet
  一个 tablet 是一张 table 连续的 segment,与其它数据存储引擎或关系型数据库中的 partition(分区)相似。给定的 tablet 冗余到多个 tablet 服务器上,并且在任何给定的时间点,其中一个副本被认为是 leader tablet。任何副本都可以对读取进行服务,并且写入时需要在为 tablet 服务的一组 tablet server之间达成一致性。
Tablet Server
  一个 tablet server 存储 tablet 和为 tablet 向 client 提供服务。对于给定的 tablet,一个 tablet server 充当 leader,其他 tablet server 充当该 tablet 的 follower 副本。只有 leader服务写请求,然而 leader 或 followers 为每个服务提供读请求。leader 使用 Raft Consunsus Algorithm来进行选举 。一个 tablet server 可以服务多个 tablets ,并且一个 tablet 可以被多个 tablet servers 服务着。

kudu的集群安装

节点规划

节点            Kudu-master        Kudu-tserver
Hadoop01 是 是
Hadoop02 是 是
Hadoop03 是 是

配置本地的CDH-yum源

所有cloudera软件下载地址:

http://archive.cloudera.com/cdh5/cdh/5/
或者http://archive.cloudera.com/cdh5/

1):上传压缩包并解压

5个G的压缩文件上传/yumData目录下,并进行解压

cd /yumData/
tar -zxvf cdh5.14.0-centos6.tar.gz

2):制作本地yum源

镜像源是centos当中下载相关软件的地址,我们可以通过制作我们自己的镜像源指定我们去哪里下载impala的rpm包,这里我们使用httpd这个软件来作为服务端,启动httpd的服务来作为我们镜像源的下载地址 这里我们选用第三台机器作为镜像源的服务端 node03机器上执行以下命令:

yum  -y install httpd
service httpd start
cd /etc/yum.repos.d

vim localimp.repo

[localimp]
name=localimp
baseurl=http://hadoop01/5.14.0
gpgcheck=
enabled=

创建apache httpd的读取连接

setenforce
ln -s /yumData/cdh/5.14. /var/www/html/ (删除软连接方式):rm -rf ./5.14.
(错误删除方式):rm -rf ./5.14./

页面访问本地yum源,出现这个界面表示本地yum源制作成功 访问http://hadoop01/5.14.0/

Kudu的集群安装(1.6.0-cdh5.14.0)

将制作好的localimp配置文件发放到所有需要安装impala的节点上去

cd /etc/yum.repos.d/
scp localimp.repo hadoop02:$PWD
scp localimp.repo hadoop03:$PWD

下载命令:

sudo yum install kudu                         # Base Kudu files
sudo yum install kudu-master # Kudu master init.d service script and default configuration
sudo yum install kudu-tserver # Kudu tablet server init.d service script and default configuration
sudo yum install kudu-client0 # Kudu C++ client shared library
sudo yum install kudu-client-devel # Kudu C++ client SDK

3):安装

在不同的节点上下载不同的kudu进程即可;

参照我的服务器:

服务器                    命令
hadoop01 yum install -y kudu kudu-master kudu-tserver kudu-client0 kudu-client-devel hadoop02 yum install -y kudu kudu-master kudu-tserver kudu-client0 kudu-client-devel hadoop03 yum install -y kudu kudu-master kudu-tserver kudu-client0 kudu-client-devel

配置master和tserver节点

安装完成之后。 需要在所有节点的/etc/kudu/conf目录下有两个文件:master.gflagfile和tserver.gflagfile 。

默认配置(不采用):

master.gflagfil

# cat /etc/kudu/conf/master.gflagfile
# Do not modify these two lines. If you wish to change these variables,
# modify them in /etc/default/kudu-master.
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/opt/kudu/master
--fs_data_dirs=/opt/kudu/master

tserver.gflagfile::

# cat /etc/kudu/conf/tserver.gflagfile
# Do not modify these two lines. If you wish to change these variables,
# modify them in /etc/default/kudu-tserver.
--fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/opt/kudu/tserver
--fs_data_dirs=/opt/kudu/tserver

自定义配置:(每一台节点) 在所有节点操作如下:

1):配置master

master.gflagfil:

[angel@angel1 kudu]$ vim /etc/default/kudu-master
export FLAGS_log_dir=/var/log/kudu
export FLAGS_rpc_bind_addresses=hadoop01: 【指定每台主机】

[angel@angel1 kudu]$ vim /etc/kudu/conf/master.gflagfile

# Do not modify these two lines. If you wish to change these variables,
# modify them in /etc/default/kudu-master. --fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/opt/cdh/kudu/master
--fs_data_dirs=/opt/cdh/kudu/master
--master_addresses=hadoop01:,hadoop02:,hadoop03:

2):配置tserver

tserver.gflagfile: [angel@angel1 kudu]$ vim /etc/default/kudu-tserver

export FLAGS_log_dir=/var/log/kudu
export FLAGS_rpc_bind_addresses=hadoop01:【指定每台主机】

[angel@angel1 kudu]$ vim /etc/kudu/conf/tserver.gflagfile

# Do not modify these two lines. If you wish to change these variables,
# modify them in /etc/default/kudu-tserver. --fromenv=rpc_bind_addresses
--fromenv=log_dir
--fs_wal_dir=/opt/cdh/kudu/tserver
--fs_data_dirs=/opt/cdh/kudu/tserver
--tserver_master_addrs=hadoop01:,hadoop02:,hadoop03:

注意

kudu的默认权限是kudu , 所以如果使用root用户的话,需要将/opt/cdh/kudu的权限修改为kudu
drwxr-xr-x. kudu kudu Nov : kudu
配置完成后,将配置文件tserver.gflagfile、tserver.gflagfile 以及自定义目录:/opt/cdh/kudu的权限修改为当前使用用户的权限(chown -R angel:angel XXXXX)【如果是普通用户】
另外:如果使用普通用户,需要为普通用户配置sudo权限:
/etc/sudoers文件中添加

/etc/sudoers文件中添加:

Kudu的集群安装(1.6.0-cdh5.14.0)

注意:kudu的日志文件需要定期清理,否则占用磁盘空间非常大(/var/log/kudu目录)

启动和关闭kudu

方式1: 启动:

sudo service kudu-master start
sudo service kudu-tserver start

启动的时候注意服务器时钟是同步 :

/etc/init.d/ntpd restart

关闭:

sudo service kudu-master stop
sudo service kudu-tserver stop

方式2: 启动:

sudo /etc/init.d/kudu-master  start

sudo /etc/init.d/kudu-tserver  start

关闭:

sudo /etc/init.d/kudu-master  stop
sudo /etc/init.d/kudu-tserver stop

安装过成中可能出现的问题

1:给用户添加sudo权限的时候报错

sudo: /etc/sudoers is world writable
解决方式:pkexec chmod /etc/sudoers

2:启动kudu的时候报错

Failed to start Kudu Master Server. Return value:         [FAILED]
去日志文件中查看:
错误:F0810 ::08.354552 master_main.cc:] Check failed: _s.ok() Bad status: Service unavailable: Cannot initialize clock: Error reading clock. Clock considered unsynchronized
解决:
第一步:首先检查是否有安装ntp:如果没有安装则使用以下命令安装:
yum -y install ntp
第二步:设置随机启动:
service ntpd start
chkconfig ntpd on

3:启动过程中报错

F0810 ::12.620932  master_main.cc:] Check failed: _s.ok() Bad status: Invalid argument: Unable to initialize catalog manager: Failed to initialize sys tables async: on-disk master list
解决:
():停掉master和tserver
():删除掉之前所有的/opt/cdh/kudu/master/*和/opt/cdh/kudu/tserver/*

4:启动过程中报错:

F0913 ::00.628237  master_main.cc:] Check failed: _s.ok() Bad status: IO error: Could not create new FS layout: unable to create file system roots: unable to write instance metadata: Call to mkstemp() failed on name template /opt/cdh/kudu/master/instance.kudutmp.XXXXXX: Permission denied (error )
这是因为kudu默认使用kudu权限进行执行,可能遇到文件夹的权限不一致情况,更改文件夹权限即可

kudu的图形界面

Master的web地址:http://hadoop01:8051/masters

Kudu的集群安装(1.6.0-cdh5.14.0)

Tserver的web地址:http://hadoop01:8051/tablet-servers

Kudu的集群安装(1.6.0-cdh5.14.0)

Kudu的集群安装(1.6.0-cdh5.14.0)