数据类型转换
同Java语言一样,Hive也包括 隐式转换(implicit conversions)和显式转换(explicitly conversions)。
Hive在需要的时候将会对numeric类型的数据进行隐式转换。比如我们对两个不同数据类型的数字进行比较,假如一个数据类型是INT型,另一个 是SMALLINT类型,那么SMALLINT类型的数据将会被隐式转换地转换为INT类型,这个到底和Java中的一样;但是我们不能隐式地将一个 INT类型的数据转换成SMALLINT或TINYINT类型的数据,这将会返回错误,除非你使用了CAST操作。
下标列出了Hive内置的数据类型之间是否可以进行隐式的转换操作:
bl | tinyint | si | int | bigint | float | double | dm | string | vc | ts | date | ba | |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|
boolean | true | false | false | false | false | false | false | false | false | false | false | false | false |
tinyint | false | true | true | true | true | true | true | true | true | true | false | false | false |
smallint | false | false | true | true | true | true | true | true | true | true | false | false | false |
int | false | false | false | true | true | true | true | true | true | true | false | false | false |
bigint | false | false | false | false | true | true | true | true | true | true | false | false | false |
float | false | false | false | false | false | true | true | true | true | true | false | false | false |
double | false | false | false | false | false | false | true | true | true | true | false | false | false |
decimal | false | false | false | false | false | false | false | true | true | true | false | false | false |
string | false | false | false | false | false | false | true | true | true | true | false | false | false |
varchar | false | false | false | false | false | false | true | true | true | true | false | false | false |
ts | false | false | false | false | false | false | false | false | true | true | true | false | false |
date | false | false | false | false | false | false | false | false | true | true | false | true | false |
binary | false | false | false | false | false | false | false | false | false | false | false | false | true |
我们可以用CAST来显式的将一个类型的数据转换成另一个数据类型。如何使用?CAST的语法为cast(value AS TYPE)。举个例子:假如我们一个员工表employees,其中有name、salary等字段;salary是字符串类型的。有如下的查询:
1 |
SELECT name, salary FROM employees |
2 |
WHERE cast(salary AS FLOAT) <</code> 100000.0;
|
这样salary将会显示的转换成float。如果salary是不能转换成float,这时候cast将会返回NULL!
对cast有一下几点需要说明的:
(1)、如果将浮点型的数据转换成int类型的,内部操作是通过round()或者floor()函数来实现的,而不是通过cast实现!
(2)、对于BINARY类型的数据,只能将BINARY类型的数据转换成STRING类型。如果你确信BINARY类型数据是一个数字类型(a number),这时候你可以利用嵌套的cast操作,比如a是一个BINARY,且它是一个数字类型,那么你可以用下面的查询:
1 |
SELECT (cast(cast(a as string) as double )) from src;
|
我们也可以将一个String类型的数据转换成BINARY类型。
(3)、对于Date类型的数据,只能在Date、Timestamp以及String之间进行转换。下表将进行详细的说明:
有效的转换 | 结果 |
cast(date as date) | 返回date类型 |
cast(timestamp as date) | timestamp中的年/月/日的值是依赖与当地的时区,结果返回date类型 |
cast(string as date) | 如果string是YYYY-MM-DD格式的,则相应的年/月/日的date类型的数据将会返回;但如果string不是YYYY-MM-DD格式的,结果则会返回NULL。 |
cast(date as timestamp) | 基于当地的时区,生成一个对应date的年/月/日的时间戳值 |
cast(date as string) | date所代表的年/月/日时间将会转换成YYYY-MM-DD的字符串。 |
字符串函数
字符串长度函数:length
- 语法: length(string A)
- 返回值: int
- 说明:返回字符串A的长度
- 举例:
- hive> select length(‘abcedfg’) from dual;
- 7
字符串反转函数:reverse
- 语法: reverse(string A)
- 返回值: string
- 说明:返回字符串A的反转结果
- 举例:
- hive> select reverse(‘abcedfg’) from dual;
- gfdecba
字符串连接函数:concat
- 语法: concat(string A, string B…)
- 返回值: string
- 说明:返回输入字符串连接后的结果,支持任意个输入字符串
- 举例:
- hive> select concat(‘abc’,'def’,'gh’) from dual;
- abcdefgh
带分隔符字符串连接函数:concat_ws
- 语法: concat_ws(string SEP, string A, string B…)
- 返回值: string
- 说明:返回输入字符串连接后的结果,SEP表示各个字符串间的分隔符
- 举例:
- hive> select concat_ws(‘,’,'abc’,'def’,'gh’) from dual;
- abc,def,gh
字符串截取函数:substr,substring
- 语法: substr(string A, int start),substring(string A, int start)
- 返回值: string
- 说明:返回字符串A从start位置到结尾的字符串
- 举例:
- hive> select substr(‘abcde’,3) from dual;
- cde
- hive> select substring(‘abcde’,3) from dual;
- cde
- hive> select substr(‘abcde’,-1) from dual; (和ORACLE相同)
- e
字符串截取函数:substr,substring
- 语法: substr(string A, int start, int len),substring(string A, int start, int len)
- 返回值: string
- 说明:返回字符串A从start位置开始,长度为len的字符串
- 举例:
- hive> select substr(‘abcde’,3,2) from dual;
- cd
- hive> select substring(‘abcde’,3,2) from dual;
- cd
- hive>select substring(‘abcde’,-2,2) from dual;
- de
字符串转大写函数:upper,ucase
- 语法: upper(string A) ucase(string A)
- 返回值: string
- 说明:返回字符串A的大写格式
- 举例:
- hive> select upper(‘abSEd’) from dual;
- ABSED
- hive> select ucase(‘abSEd’) from dual;
- ABSED
字符串转小写函数:lower,lcase
- 语法: lower(string A) lcase(string A)
- 返回值: string
- 说明:返回字符串A的小写格式
- 举例:
- hive> select lower(‘abSEd’) from dual;
- absed
- hive> select lcase(‘abSEd’) from dual;
- absed
去空格函数:trim
- 语法: trim(string A)
- 返回值: string
- 说明:去除字符串两边的空格
- 举例:
- hive> select trim(‘ abc ‘) from dual;
- abc
左边去空格函数:ltrim
- 语法: ltrim(string A)
- 返回值: string
- 说明:去除字符串左边的空格
- 举例:
- hive> select ltrim(‘ abc ‘) from dual;
- abc
右边去空格函数:rtrim
- 语法: rtrim(string A)
- 返回值: string
- 说明:去除字符串右边的空格
- 举例:
- hive> select rtrim(‘ abc ‘) from dual;
- abc
正则表达式解析函数:regexp_extract
其中的index,是按照正则字符串()的位置
- 语法: regexp_extract(string subject, string pattern, int index)
- 返回值: string
- 说明:将字符串subject按照pattern正则表达式的规则拆分,返回index指定的字符。注意,在有些情况下要使用转义字符
- 举例:
- hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 1) from dual;
- the
- hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2) from dual;
- bar
- hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0) from dual;
- foothebar
函数parse_url,解析URL字符串
- parse_url(url, partToExtract[, key]) - extracts a part from a URL
- 解析URL字符串,partToExtract的选项包含[HOST,PATH,QUERY,REF,PROTOCOL,FILE,AUTHORITY,USERINFO]。
- 举例:
- * parse_url('http://facebook.com/path/p1.php?query=1', 'HOST')返回'facebook.com'
- * parse_url('http://facebook.com/path/p1.php?query=1', 'PATH')返回'/path/p1.php'
- * parse_url('http://facebook.com/path/p1.php?query=1', 'QUERY')返回'query=1',
- 可以指定key来返回特定参数,例如
- * parse_url('http://facebook.com/path/p1.php?query=1', 'QUERY','query')返回'1',
- * parse_url('http://facebook.com/path/p1.php?query=1#Ref', 'REF')返回'Ref'
- * parse_url('http://facebook.com/path/p1.php?query=1#Ref', 'PROTOCOL')返回'http'
json解析函数:get_json_object
语法: get_json_object(string json_string, string path)
- 返回值: string
- 说明:解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效,那么返回NULL。
- 举例:
- hive> select get_json_object(‘{“store”:
- > {“fruit”:\[{"weight":8,"type":"apple"},{"weight":9,"type":"pear"}],
- > “bicycle”:{“price”:19.95,”color”:”red”}
- > },
- > “email”:”amy@only_for_json_udf_test.net”,
- > “owner”:”amy”
- > }
- > ‘,’$.owner’) from dual;
- amy
使用实例:
- select get_json_object('{"store":{"fruit":\["aa","bb","cc"]},"owner":"amy"}','$.store.fruit[0]') from test_msg limit 1;
空格字符串函数:space
语法: space(int n)
- 返回值: string
- 说明:返回长度为n的字符串
- 举例:
- hive> select space(10) from dual;
- hive> select length(space(10)) from dual;
- 10
重复字符串函数:repeat
语法: repeat(string str, int n)
- 返回值: string
- 说明:返回重复n次后的str字符串
- 举例:
- hive> select repeat(‘abc’,5) from dual;
- abcabcabcabcabc
首字符ascii函数:ascii
语法: ascii(string str)
- 返回值: int
- 说明:返回字符串str第一个字符的ascii码
- 举例:
- hive> select ascii(‘abcde’) from dual;
- 97
左补足函数:lpad
语法: lpad(string str, int len, string pad)
- 返回值: string
- 说明:将str进行用pad进行左补足到len位
- 举例:
- hive> select lpad(‘abc’,10,’td’) from dual;
- tdtdtdtabc
与GP,Oracle不同,pad 不能默认
右补足函数:rpad
语法: rpad(string str, int len, string pad)
- 返回值: string
- 说明:将str进行用pad进行右补足到len位
- 举例:
- hive> select rpad(‘abc’,10,’td’) from dual;
- abctdtdtdt
分割字符串函数: split
语法: split(string str, string pat)
- 返回值: array
- 说明: 按照pat字符串分割str,会返回分割后的字符串数组
- 举例:
- hive> select split(‘abtcdtef’,'t’) from dual;
- ["ab","cd","ef"]
集合查找函数: find_in_set
语法: find_in_set(string str, string strList)
- 返回值: int
- 说明: 返回str在strlist第一次出现的位置,strlist是用逗号分割的字符串。如果没有找该str字符,则返回0
- 举例:
- hive> select find_in_set(‘ab’,'ef,ab,de’) from dual;
- 2
- hive> select find_in_set(‘at’,'ef,ab,de’) from dual;
- 0
条件判断
CONDITIONAL FUNCTIONS IN HIVE
Hive supports three types of conditional functions. These functions are listed below:IF( Test Condition, True Value, False Value )
The IF condition evaluates the “Test Condition” and if the “Test Condition” is true, then it returns the “True Value”. Otherwise, it returns the False Value.
Example: IF(1=1, 'working', 'not working') returns 'working'
COALESCE( value1,value2,... )
The COALESCE function returns the fist not NULL value from the list of values. If all the values in the list are NULL, then it returns NULL.
Example: COALESCE(NULL,NULL,5,NULL,4) returns 5
CASE Statement
The syntax for the case statement is:
CASE [ expression ]Here expression is optional. It is the value that you are comparing to the list of conditions. (ie: condition1, condition2, ... conditionn).
WHEN condition1 THEN result1
WHEN condition2 THEN result2
...
WHEN conditionn THEN resultn
ELSE result
END
All the conditions must be of same datatype. Conditions are evaluated in the order listed. Once a condition is found to be true, the case statement will return the result and not evaluate the conditions any further.
All the results must be of same datatype. This is the value returned once a condition is found to be true.
IF no condition is found to be true, then the case statement will return the value in the ELSE clause. If the ELSE clause is omitted and no condition is found to be true, then the case statement will return NULL
Example:
CASE FruitThe other form of CASE is
WHEN 'APPLE' THEN 'The owner is APPLE'
WHEN 'ORANGE' THEN 'The owner is ORANGE'
ELSE 'It is another Fruit'
END
CASE
WHEN Fruit = 'APPLE' THEN 'The owner is APPLE'
WHEN Fruit = 'ORANGE' THEN 'The owner is ORANGE'
ELSE 'It is another Fruit'
END