hbase_存储模型

时间:2024-06-18 11:06:32
  • Hbase 是按列存储,所以每个列族存储在一个HDFS文件上。
  • Hbase表中的行是按照rowkey字典序进行排列的,并且表格在行的方向上被分割为多个region(按照行进行分割的)
  • region 是hbase中分布存储和负载均衡的最小单元(不是存储的最小单元),不同region分布到不同regionserver上。
  1. region有一个或多个store组成,每个store保存一个columns family列族。
  2. 每个store又由一个memstore和0到多个storefile组成
  3. memstore存储在内存中,storefile存储在HDFS上

    Hbase高速实现数据存储和访问源于hbase数据存储:

  1. 连接Zookeeper,从Zookeeper中找要读的数据。需要知道表中rowkey在region中的位置
  2. 客户端查找HRegionServer,HRegionServer管理众多Region
  3. HMaster也需要连接Zookeeper,链接的作用是:HMaster需要知道哪些HRegionServer是活动的及HRegionServer所在的位置,然后管理HRegionServer
  4. Hbase内部把数据写到HDFS上,DFS有客户端
  5. Region中包含HLog,Store, 若一张表有几个列族,就有几个Store。Store中有多个Memstore及storefile,storefile是对Hfile的封装,storefile真正存储在HDFS上。
  6. 所以写数据时先往Hlog上写一份,再往memstore上写一份,当memstore达到一定大小则往storefile上写,若memstore数据有丢失,则从Hlog上恢复。
  7. 而读数据时,先到memstore上读,再到storefiile上读,之后合并。