Hbase 基础 - shell 与 客户端

版权说明：  本文章版权归本人及博客园共同所有，转载请标明原文出处(http://www.cnblogs.com/mikevictor07/)，以下内容为个人理解，仅供参考。

 

一、简介

    Hbase是在HDFS上开发的面向列的分布式数据库，适用于随机读/写超大规模的数据集（通常这种数据压力传统RDBMS很难承受），可以在廉价的硬件上构成的集群上管理超大规模的稀疏表，并且可以水平扩展。

 

二、基础概念

    1、Hbase把数据存放在表中，表由行列组成，表中的行是排序的（根据ASCII顺序），行键作为表的主键，对表的数据访问需要通过主键或者主键Range，故行键的设计很重要。

    2、列由“列族”组成（即对列分类），不同列族的数据通常放在不同的文件夹里，列族不宜过多，Hbase启动时就打开数据文件，并且一直保持打开状态（Linux 默认一个进程打开最大文件数为1024），不合理的设计将导致异常。定义表时必须定义一个可用的列族，用户可根据需要增加或删除列族，但是必须先disable。

    3、Hbase为master/slave结构，依赖于zookeeper，master 管理着多个regionServer。

 

三、安装(standalone)

    1、必须安装Java 1.6 或者更高版本。

    2、可用修改~/.base_profile，export JAVA_HOME指向JAVA安装路径，也可修改conf/hbase-env.sh 中 export JAVA_HOME=/usr/java/jdk1.6.0/

    3、默认情况下，hbase会使用/tmp/hbase-$USERID作为数据存储目录，有些系统重启会清空/tmp目录，可用通过更改hbase-site.xml来配置数据存储目录，如：

<configuration>
        <property>
            <name>hbase.rootdir</name>
            <value>file:///opt/hbase_data</value>
        </property>
</configuration>

    4、修改bin下sh文件执行权限，通过 ./bin/start-hbase.sh即可启动hbase，通过tail -f 监听./log/hbase-root-master-hbase-xx.log来查看启动信息。

 

四、Hbase shell

使用 ./bin/hbase shell即可进入管理hbase，使用secureCRT会导致无法删除键入的错误命令(backspace delete键无法使用)，笔者使用putty(v0.62)可正常使用，下面是一些示例：

下面以创建一个stations的表，这表的行键是stationid,  列包含info.name（名称）、info.countryCode（站点所属国家代号）

1、创建一个表与显示所有表

hbase> create 'stations','info'   --创建一个带有info列族的stations表
hbase> list   --显示当前所有表

2、录入数据(如果录入同一行同一列则代表更新)

hbase> put 'stations', '1001', 'info:name', 'HAILAR'    --录入1001为行键、HAILAR为站点名称的记录

hbase> put 'stations', '1001', 'info:countryCode', 'CH'   --CH代表china

  hbase> put 'stations', '1002', 'info:name', 'NENJIANG'
  hbase> put 'stations', '1002', 'info:countryCode', 'CH'

3、读取、删除数据

hbase> scan 'stations'   --读取表中所有数据
hbase> get 'stations','1001'  --得到行键为1001的所有列
hbase> get 'stations','1002','info:name'  --得到行键为1002的info:name列
hbase> delete 'stations','1001','info:countryCode'   --删除1001行的info:countryCode列

 4、增加/删除列族

hbase> disable 'stations'
hbase> alter 'stations', {NAME=>'data'}   --增加data列族，可以录入以data:作为prefix的列
hbase> enable 'stations'
hbase> describe 'stations'  --列出表结构

---删除列族
hbase> disable 'stations'
hbase> alter 'stations',{NAME=>'data', METHOD=>'delete'}   --删除stations里面的data列族，列族下面的列将被全部删除

5、删除表

hbase> disable 'stations'   --需要把表disable
hbase> drop 'stations'

 通过http://hbase-master:60010/ 可查看hbase状态信息

 

五、Java 客户端

基本表的管理与访问，下面方法依赖一个静态变量：

private static String host = "192.168.70.41"; --这里是Master 的地址

下面各段代码中有重复部分，关键的在try{}中，可举一反三。

1、创建表

/**
     * create 'tableName','colFamily'
     */
    public static void createTable(String tableName, String colFamily) throws Exception{
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        try {
            hadmin = new HBaseAdmin(config);
            HTableDescriptor htd = new HTableDescriptor(TableName.valueOf(Bytes.toBytes(tableName)));
            HColumnDescriptor hcd = new HColumnDescriptor(colFamily);
            htd.addFamily(hcd);
            
            hadmin.createTable(htd);
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (hadmin != null)
                hadmin.close();
        }
    }

 

2、列出所有表名

/**
     * list
     */
    public static void list() throws Exception{
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        
        try {
            hadmin = new HBaseAdmin(config);
            HTableDescriptor[] tables = hadmin.listTables();
            
            for (HTableDescriptor table : tables) {
                System.out.println(new String(table.getName()));
            }
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (hadmin != null)
                hadmin.close();
        }
    }

 

3、录入数据

/**
     * put 'tableName','row','colFamily:qualifier','value'
     */
    public static void put(String tableName,String row, String colFamily, String qualifier, String value) throws Exception {
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        HTable table = null;
        try {
            table = new HTable(config, tableName);
            Put put = new Put(Bytes.toBytes(row));
            put.add(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier), Bytes.toBytes(value));
            
            table.put(put);
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (table != null) 
                table.close();
            if (hadmin != null)
                hadmin.close();
        }
    }

 

4、获取数据

/**
     * get 'tableName', 'row', 'colFamily:qualifier' 
     */
    public static void get(String tableName,String row, String colFamily, String qualifier) throws Exception {
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        HTable table = null;
        try {
            table = new HTable(config, tableName);
            Get get = new Get(Bytes.toBytes(row));
            get.addColumn(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier));
            
            Result result = table.get(get);
            String value = Bytes.toString(result.getValue(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier)));
            System.out.println(value);
            
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (table != null) 
                table.close();
            if (hadmin != null)
                hadmin.close();
        }
    }

 

5、删除数据

/**
     * delete 'tableName', 'row', 'colFamily:qualifier' 
     */
    public static void delete(String tableName,String row, String colFamily, String qualifier) throws Exception {
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        HTable table = null;
        try {
            table = new HTable(config, tableName);
            Delete delete = new Delete(Bytes.toBytes(row));
            
            delete.deleteColumn(Bytes.toBytes(colFamily), Bytes.toBytes(qualifier));
            
            table.delete(delete);
            System.out.println("delete successful");
            
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (table != null) 
                table.close();
            if (hadmin != null)
                hadmin.close();
        }
    }

6、扫描全表

/**
     * scan 'tableName'
     */
    public static void scan(String tableName) throws Exception {
        Configuration config = HBaseConfiguration.create();
        config.set("hbase.zookeeper.quorum", host);
        HBaseAdmin hadmin = null;
        HTable table = null;
        try {
            table = new HTable(config, tableName);
            Scan scan = new Scan();
            ResultScanner rc = table.getScanner(scan);
            
            for (Result result : rc) {
                System.out.println(result);
            }
            
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            if (table != null) 
                table.close();
            if (hadmin != null)
                hadmin.close();
        }
    }