jafka的zk数据

时间:2022-05-08 13:14:20

查看topics:

  • ls /brokers/topics
  • [mytopic]

查看topic所在的broker,下面例子,mytopic在broker 0 中管理。

  • ls /brokers/topics/mytopic
  • [0]

查看brocker中,某个topic有多少partition:

  • get /brokers/topics/mytopic/0
  • 3

查看brocker信息: 存在brocker 0

  • ls /brokers/ids
  • [0]

查看brocker详细信息:机器名-时间戳:机器IP:机器端口

  • get /brokers/ids/0
  • 10.217.12.109-1401950718319:10.217.12.109:9092

查看consumer信息:

  • ls /consumers
  • [test_group, mygroup]
  • 说明,有两个group

查看group下的信息:

  • ls /consumers/test_group
  • [offsets, owners, ids]
  • offsets内记录消息消费到何处;owners中记录的是topic,通过‘test_group’组消费消息,消息所属的topic。ids记录的是消费者实例的一些信息。

查看offsets下的信息:

  • ls /consumers/test_group/offsets
  • [mytopic, ww]
  • 有两个topic
  • ls /consumers/test_group/offsets/mytopic
  • [0-2, 0-1, 0-0]
  • 每个topic有三个分区
  • get /consumers/test_group/offsets/mytopic/0-0
  • 1763880
  • 这个是offset的值

查看owners信息:

  • ls /consumers/test_group/owners
  • [mytopic, ww]
  • 两个topic
  • ls /consumers/test_group/owners/mytopic
  • [0-2, 0-1, 0-0]
  • get /consumers/test_group/owners/mytopic/0-0
  • test_group_fww-PC-1402367921721-e9527998-0
  • 上面的内容的格式是:consumerIdString-N,consumerIdString是test_group_fww-PC-1402367921721-e9527998。N代表MessageStream的ID

查看ids:

  • ls /consumers/test_group/ids
  • [test_group_fww-PC-1402367921721-e9527998]
  • group_hostname-时间戳-uuid
  • get /consumers/test_group/ids/test_group_fww-PC-1402367921721-e9527998
  • {"mytopic":1}
  • 说明:{"mytopic":1}是创建consumer时指定的,要创建多少MessageStream。在mytopic上面创建一个MessageStream用于消费消息,代码如下:
  • Map<String, List<MessageStream<String>>> topicMessageStreams = connector
    .createMessageStreams(ImmutableMap.of("mytopic", 1),//topic名称,1表示要创建一个stream
    new StringDecoder());

jafka的zk数据的更多相关文章

  1. JStrom的zk数据

    /jstorm/masterlock 用于LeaderSelector的锁. /jstorm/master get /jstorm/master localhost.localdomain:7627 ...

  2. ZK数据同步

    整个集群完成Learner选举后,Learner向Leader发起注册,然后进入数据同步环节,即Leader将learner上缺失的事务请求同步给Learner 1). 获取Learner状态 根据L ...

  3. zookeeper 各节点数据保证是弱一致性

    一致性保证: ZooKeeeper 是一个高性能的,可扩展的服务.不管是读和写操作是被设计成快速,虽然读比写快. 这样做的原因是在读的情况下,Zookeeper 可以提供旧的数据, 反过来又是由于Zo ...

  4. &lt&semi;zk在大型分布式系统中的应用&gt&semi;

    Hadoop 在hadoop中,zk主要用来实现HA(High Availability).这部分逻辑主要集中在hadoop common的HA模块中,HDFS的NameNode和Yarn的Resou ...

  5. &lt&semi;zk的典型应用场景&gt&semi;

    Overview zk是一个典型的发布/订阅模式的分布式数据管理与协调框架,开发人员可以使用它来进行分布式数据的发布与订阅. 另一方面,通过对zk中丰富的数据节点进行交叉使用,配合watcher事件通 ...

  6. Zookeeper数据查看工具ZooInspector

    Zookeeper作为常用的集群协调者组件被广泛应用,尤其是在大数据生态圈中: Zookeeper集群存储各个节点信息,包括:Hadoop.Hbase.Storm.Kafka等等: 二.查询ZK数据的 ...

  7. 160728、Spark Streaming kafka 实现数据零丢失的几种方式

    定义 问题开始之前先解释下流处理中的一些概念: At most once - 每条数据最多被处理一次(0次或1次) At least once - 每条数据最少被处理一次 (1次或更多) Exactl ...

  8. zookeeper3&period;3&period;6 伪分布式安装

    下载地址(http://zookeeper.apache.org/releases.html#download)   一:下载zookeeper的安装包,解压,进入到zk的目录文件,进入conf目录 ...

  9. Storm-源码分析- Storm中Zookeeper的使用

    在backtype.storm.cluster.clj中, 定义了storm对于Zookeeper的使用   ClusterState 首先定义操作Zookeeper集群的interface (def ...

随机推荐

  1. Host文件设置

    地址:C:\Windows\System32\drivers\etc 可以在注释语句前加入 "#" hosts文件是Windows系统中一个负责IP地址与域名快递解析的文件,以AS ...

  2. NHibernate可视化设计插件——Mindscape&period;NHibernateModelDesigner

    我一直希望NHibernate能够支持像EF一样支持可视化操作,今天去网上搜了一下,发现有一个插件,类似EF的可视化功能. 下载地址:Mindscape.NHibernateModelDesigner ...

  3. codeforces 719A Vitya in the Countryside&lpar;序列判断趋势&rpar;

    题目链接:http://codeforces.com/problemset/problem/719/A 题目大意: 题目给出了一个序列趋势 0 .1 .2 .3 ---14 .15 .14 ----3 ...

  4. HDU - The number of divisors&lpar;约数&rpar; about Humble Numbers

    Description A number whose only prime factors are 2,3,5 or 7 is called a humble number. The sequence ...

  5. 20151221jqueryUI---日历UI代码备份

    $(function () { $('#search_button').button({ icons : { primary : 'ui-icon-search', }, }); $('#reg'). ...

  6. BestCoder冠军赛 - 1009 Exploration 【Tarjan&plus;并查集缩点】

    [题意] 给一个图,这个图中既有有向边,又有无向边,每条边只能走一次,问图中是否存在环. 最多10^6个点,10^6个无向边,10^6个有向边 [题解] 因为既有有向边又有无向边,所以不能单纯的用ta ...

  7. Jenkins&gt&semi;&gt&semi;&gt&semi;应用篇&gt&semi;&gt&semi;&gt&semi;插件使用&gt&semi;&gt&semi;&gt&semi;Publish over SSH

    依赖环境 SSH: 远程机开启SSH服务.同意Jenkins所在机器通过SSH服务登录到远程机运行脚本. 能够设置SSH使用username/password或通过key登录,SSH配置请查专门的资料 ...

  8. (转)How Transformers Work --- The Neural Network used by Open AI and DeepMind

    How Transformers Work --- The Neural Network used by Open AI and DeepMind Original English Version l ...

  9. JAVA第十次作业

    JAVA第十次作业 (一)学习总结 1.用思维导图对java多线程的学习内容进行总结. 参考资料: XMind. 2.下面是一个单线程实现的龟兔赛跑游戏. public class TortoiseH ...

  10. windows安装zookeeper

    ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件.它是一个为分布式应用提供一致性服务的软件,提供的功 ...