Hadoop_简单操作ZooKeeper

时间:2021-12-30 22:59:25

一、概念

  1. 一个开源的、分布式的,为分布式应用提供协调服务的Apache项目

  2. 提供一个简单的原语集合,以便于分布式应用可以在它之上构建更高层次的同步服务

  3. 设计非常易于编程,它使用的是类似于文件系统那样的树形数据结构

  4. 目的是将分布式服务不再需要由于协作冲突而另外实现协作服务

  5. 项目由Java语言开发,并提供了很多API

  6. 官方网站:http://zookeeper.apache.org

  7. 分布式:最少三个节点(节点数必为奇数个,即2n+1个节点,n为允许宕掉的节点数目)
    1> Zookeeper服务启动时,会进行"选举"操作,即leader与follower,并进行监控
    2> 领导者leader:为了在分布式环境中保证数据一致性,负责进行投票和发起决议,更新系统状态
    3> 跟随者follower:用于接收客户请求并向客户端返回结果,在选主过程中参与投票
    4> 观察者Observer:可以接受客户端连接,将请求发给leader,但不参与选主,只同步leader状态
       Observer的目的是为了扩展系统,提高读取速度
    5> 客户端client:请求发起方
    6> 数据存放在内存中与本地,使用内存读取速度更快
    7> 其下的客户端可连接任意一个server(server与client关系:多对多)
    8> 允许宕机具有容错性

  8. Zookeeper从设计模式看是一个基于观察者模式设计的分布式服务管理框架,负责存储和管理重要的数据,
    然后接受观察者的注册,一旦数据发生变化,Zookeeper负责通知注册的观察者并做相应处理,
    从而实现类似与Msater与slaver的管理模式,应用场景:
    1> 统一命名服务(Name Service)
    2> 硬盘管理(Configuration Management)
    3> 集群管理(Group Membership)
    4> 共享锁(Locks)、同步锁

二、单机模式
    1> 下载zookeeper-3.4.6.tar.gz 并上传至指定目录
    2> 解压并重命名其中的conf/zoo_sample.cfg为zoo.cfg
    3> 修改其中dataDir属性为自定义路径
    4> 回到项目主目录使用bin/zkServer.sh start启动项目
    5> jps查看后多出一个QuorumPeerMain进程
    6> 使用bin/zkCli.sh打开客户端

[zk: localhost:2181(CONNECTED) 1] ls /
[zookeeper]
[zk: localhost:2181(CONNECTED) 2] ls /zookeeper     # 查看zookeeper
[quota]
[zk: localhost:2181(CONNECTED) 3] get /zookeeper     # 获取其中信息
cZxid = 0x0
ctime = Thu Jan 01 08:00:00 CST 1970
mZxid = 0x0
mtime = Thu Jan 01 08:00:00 CST 1970
pZxid = 0x0
cversion = -1
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 0
numChildren = 1
[zk: localhost:2181(CONNECTED) 4] create /test "123456"  # 创建一个文件(目录)并赋予其值
Created /test
[zk: localhost:2181(CONNECTED) 5] ls /
[test, zookeeper]
[zk: localhost:2181(CONNECTED) 6] get /test
"123456"
cZxid = 0x4
ctime = Thu Oct 20 00:12:25 CST 2016
mZxid = 0x4
mtime = Thu Oct 20 00:12:25 CST 2016
pZxid = 0x4
cversion = 0
dataVersion = 0
aclVersion = 0
ephemeralOwner = 0x0
dataLength = 8
numChildren = 0
[zk: localhost:2181(CONNECTED) 7] rmr /test         # 删除该文件
[zk: localhost:2181(CONNECTED) 8] ls /
[zookeeper]
[zk: localhost:2181(CONNECTED) 9]

三、 分布式模式

PS:在部署Zookeeper分布式模式之前需要先后关闭Zookeeper相关进程:
quit->退出客户端
bin/zkServer.sh stop -> 关闭服务

    1> 准备三个节点
    2> 选取其中一台,上传并解压Zookeeper
    3> 重命名Zookeeper配置文件
    5> 修改本地数据存储路径 -> 属性dataDir
    6> 添加三个节点服务:格式 -> server.1=hadoop09-linux-01.ibeifeng.com:2888:3888
 
    7> 在你的dataDir目录下建立myid文件并录入1(1表示计算机编号,其他两台以此类推)
 
    8> scp 命令分发zookeeper文件夹到其他两个节点并依次修改myid机器码
 
    9> 分别在zookeeper主目录下使用bin/zkServer.sh start 命令启动服务,
 
    10> 每个节点使用jps查看一下进程,再使用bin/zkServer.sh status命令查看当前server选主结果 
 
    11> 可以打开客户端测试使用

Hadoop_简单操作ZooKeeper的更多相关文章

  1. 使用curator框架简单操作zookeeper 学习笔记

    Curator 操作是zookeeper的优秀api(相对于原生api),满足大部分需求.而且是Fluent流式api风格. 参考文献:https://www.jianshu.com/p/70151f ...

  2. Java简单操作Zookeeper

    Zookeeper客户端链接 <dependency> <groupId>org.apache.zookeeper</groupId> <artifactId ...

  3. ZooKeeper系列3:ZooKeeper命令、命令行工具及简单操作

    问题导读1.ZooKeeper包含哪些常用命令?2.通过什么命令可以列出服务器 watch 的详细信息?3.ZooKeeper包含哪些操作?4.ZooKeeper如何创建zookeeper? 常用命令 ...

  4. 【ZooKeeper】ZooKeeper安装及简单操作

    ZooKeeper介绍 ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件.它是一个为分布式应用提供一 ...

  5. zookeeper简单操作

    接下来主要讲述了通过zookeeper服务器自带的zkCli.sh工具模拟客户端访问和操作zookeeper服务器(包括集群服务器). 当成功启动zookeeper服务后,切换到server1/bin ...

  6. zk 06之:ZooKeeper命令、命令行工具及简单操作

    常用命令ZooKeeper 支持某些特定的四字命令字母与其的交互.它们大多是查询命令,用来获取 ZooKeeper 服务的当前状态及相关信息.用户在客户端可以通过 telnet 或 nc 向 ZooK ...

  7. ZKClient操作zookeeper

    前面简单研究了curator的使用,下面简单研究zkclient的使用. 1.创建连接 private static final String CONNECT_ADDR = "127.0.0 ...

  8. 使用Curator操作ZooKeeper

    Curator是Netflix公司开源的一个ZooKeeper client library,用于简化ZooKeeper客户端编程.它包含如下模块: Framework:Framework是ZooKe ...

  9. storm操作zookeeper源码分析-cluster&period;clj

    storm操作zookeeper的主要函数都定义在命名空间backtype.storm.cluster中(即cluster.clj文件中).backtype.storm.cluster定义了两个重要p ...

随机推荐

  1. 轻取帝国CMS管理员密码

    “帝国”CMS是一套著名的PHP整站程序,是国内使用人数最多的PHPCMS程序之一.令人无奈的是,“帝国”虽然把*壮大了,却忽略了自身防护的建设,结果在黑客攻击下,“帝国”沦陷了.“帝国”CMS曝出 ...

  2. ffmpeg-20160617-git-bin&period;7z ffmpeg-20160626-git-bin&period;7z

    ESC 退出 0 进度条开关 1 屏幕原始大小 2 屏幕1/2大小 3 屏幕1/3大小 4 屏幕1/4大小 S 下一帧 [ -2秒 ] +2秒 ; -1秒 ' +1秒 下一个帧 -> -5秒 f ...

  3. MapReduce编程job概念原理

    在Hadoop中,每个MapReduce任务都被初始化为一个job,每个job又可分为两个阶段:map阶段和reduce阶段.这两个阶段分别用两个函数来表示.Map函数接收一个<key,valu ...

  4. 66 Plus One&lpar;大数&plus;1Easy&rpar;

    题目意思:vector<int> v存数   eg.123  则v[0]=1,v[1]=2,v[2]=3,加1后返回一个vector 思路:先判断新的vector长度是否需要加1,然后从v ...

  5. DC游戏《斑鸠》原创赏析&lbrack;转载&rsqb;

    游戏背景:      凤来之国本来只是边远地区的一个小国.但现在他们却自称为得到“神之力”的“神通者”,在“选民思想”“和平统一”之类的名义下开始了对各地的武力侵略.      事情的起因是因为凤来之 ...

  6. 【XSY3154】入门多项式 高斯消元

    题目大意 给你一个 \(n\times n\)的矩阵 \(A\),求次数最小且最高次项为 \(1\) 的多项式 \(F(x)\),满足 \(F(A)=0\). 所有操作都对 \(p\) 取模. \(n ...

  7. 转&colon;&sol;&sol;【MOS】关于在不同版本和平台之间进行还原或复制的常见问题 &lpar;文档 ID 1526162&period;1&rpar;--跨版本恢复

    Questions and Answers 1) 我能用更高版本的 Oracle 还原或复制旧版本的数据库吗? 2) 我能在两个不同的补丁程序集之间进行还原或复制吗? 3) 我能在同一操作系统的不同版 ...

  8. Java 多线程学习笔记:生产者消费者问题

    前言:最近在学习Java多线程,看到ImportNew网上有网友翻译的一篇文章<阻塞队列实现生产者消费者模式>.在文中,使用的是Java的concurrent包中的阻塞队列来实现.在看完后 ...

  9. 903&period; Valid Permutations for DI Sequence

    We are given S, a length n string of characters from the set {'D', 'I'}. (These letters stand for &q ...

  10. Python之json编码

    一.json JSON: JavaScript Object Notation(JavaScript 对象表示法) JSON 是存储和交换文本信息的语法 1.json轻量级:语法规则 JSON 语法是 ...