hive常用UDF and UDTF函数介绍-lateral view explode()

Posted 2022-11-30 河南骏

转载自：https://blog.csdn.net/zeb_perfect/article/details/53304330

前言：

Hive是基于Hadoop中的MapReduce，提供HQL查询的数据仓库。这里只大概说下Hive常用到的UDF函数，全面详细介绍推荐官网wiki：https://cwiki.apache.org/confluence/display/Hive/LanguageManual+UDF。

定义：

UDF(User-Defined-Function)，用户自定义函数对数据进行处理。

UDTF(User-Defined Table-Generating Functions) 用来解决 输入一行输出多行(On-to-many maping) 的需求。

UDAF(User Defined Aggregation Function)用户自定义聚合函数，操作多个数据行，产生一个数据行。

用法：

1、UDF函数可以直接应用于select语句，对查询结构做格式化处理后，再输出内容。

2、编写UDF函数的时候需要注意一下几点：

a）自定义UDF需要继承org.apache.hadoop.hive.ql.UDF。

b）需要实现evaluate函。

c）evaluate函数支持重载。

Hive已定义函数介绍：

1、字符串长度函数：length

语法: length(string A)
返回值: int
举例：

1. hive> select length(‘abcedfg’) from dual;

2. 7

2、字符串反转函数：reverse

语法: reverse(string A)
返回值: string
说明：返回字符串A的反转结果

举例：

 

1. hive> select reverse(‘abcedfg’) from dual;

2. gfdecba

 

3、字符串连接函数：concat

语法: concat(string A, string B…)
返回值: string
说明：返回输入字符串连接后的结果，支持任意个输入字符串

举例：

 

1. hive> select concat(‘abc’,'def’,'gh’) from dual;

2. abcdefgh

 

4、带分隔符字符串连接函数：concat_ws

语法: concat_ws(string SEP, string A, string B…)
返回值: string
说明：返回输入字符串连接后的结果，SEP表示各个字符串间的分隔符
举例：

1. hive> select concat_ws(‘,’,'abc’,'def’,'gh’) from dual;

2. abc,def,gh

5、字符串截取函数：substr,substring

语法: substr(string A, int start),substring(string A, int start)
返回值: string
说明：返回字符串A从start位置到结尾的字符串
举例：

1. hive> select substr(‘abcde’,3) from dual;

2. cde

3. hive> select substring(‘abcde’,3) from dual;

4. cde

5. hive> select substr(‘abcde’,-1) from dual; （和ORACLE相同）

6. e

 

6、字符串大小写转换

字符串转大写函数：upper,ucase

字符串转小写函数：lower,lcase

语法: lower(string A) lcase(string A)
返回值: string
说明：返回字符串A的小写格式
举例：

1. hive> select lower(‘abSEd’) from dual;

2. absed

3. hive> select lcase(‘abSEd’) from dual;

4. absed

 

7、左右去除空格函数

左边去空格函数：ltrim

右边去空格函数：rtrim

8、正则表达式替换函数：regexp_replace

语法: regexp_replace(string A, string B, string C)
返回值: string
说明：将字符串A中的符合java正则表达式B的部分替换为C。注意，在有些情况下要使用转义字符
举例：

1. hive> select regexp_replace(‘foobar’, ‘oo|ar’, ”) from dual;

2. fb

 

9、正则表达式解析函数：regexp_extract

语法: regexp_extract(string subject, string pattern, int index)
返回值: string
说明：将字符串subject按照pattern正则表达式的规则拆分，返回index指定的字符。注意，在有些情况下要使用转义字符
举例：

1. hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 1) from dual;

2. the

3. hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 2) from dual;

4. bar

5. hive> select regexp_extract(‘foothebar’, ‘foo(.*?)(bar)’, 0) from dual;

6. foothebar

 

10、URL解析函数：parse_url，parse_url_tuple（UDTF）

语法: parse_url(string urlString, string partToExtract [, string keyToExtract])，parse_url_tuple功能类似parse_url()，但它可以同时提取多个部分并返回
返回值: string
说明：返回URL中指定的部分。partToExtract的有效值为：HOST, PATH, QUERY, REF, PROTOCOL, AUTHORITY, FILE, and USERINFO.
举例：

1. hive> select parse_url(‘http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1′, ‘HOST’) from dual;

2. facebook.com

3. hive> select parse_url_tuple('http://facebook.com/path1/p.php?k1=v1&k2=v2#Ref1', 'QUERY:k1', 'QUERY:k2');

4. v1 v2

 

11、json解析函数：get_json_object

语法: get_json_object(string json_string, string path)
返回值: string
说明：解析json的字符串json_string,返回path指定的内容。如果输入的json字符串无效，那么返回NULL。
举例：

1. hive> select get_json_object(‘“store”:

2. > “fruit”:\\["weight":8,"type":"apple","weight":9,"type":"pear"],

3. > “bicycle”:“price”:19.95,”color”:”red”

4. > ,

5. > “email”:”amy@only_for_json_udf_test.net”,

6. > “owner”:”amy”

7. >

8. > ‘,’$.owner’) from dual;

9. amy

 

12、集合查找函数: find_in_set

语法: find_in_set(string str, string strList)
返回值: int
说明: 返回str在strlist第一次出现的位置，strlist是用逗号分割的字符串。如果没有找该str字符，则返回0（只能是逗号分隔，不然返回0）
举例：

1. hive> select find_in_set(‘ab’,'ef,ab,de’) from dual;

2. 2

3. hive> select find_in_set(‘at’,'ef,ab,de’) from dual;

4. 0

 

13、行转列：explode （posexplode Available as of Hive 0.13.0）

说明：将输入的一行数组或者map转换成列输出
语法：explode(array (or map))
举例：

 

1. hive> select explode(split(concat_ws(',','1','2','3','4','5','6','7','8','9'),',')) from test.dual;

2. 1

3. 2

4. 3

5. 4

6. 5

7. 6

8. 7

9. 8

10. 9

 

14、多行转换：lateral view

说明：lateral view用于和json_tuple，parse_url_tuple，split, explode等UDTF一起使用，它能够将一行数据拆成多行数据，在此基础上可以对拆分后的数据进行聚合。
举例：

 

1. hive> select s.x,sp from test.dual s lateral view explode(split(concat_ws(',','1','2','3','4','5','6','7','8','9'),',')) t as sp;

2. x sp

3. a 1

4. b 2

5. a 3

 

解释一下，from后面是你的表名，在表名后面加lateral view explode。。。（你的行转列sql） ，还必须要起一个别名，我这个字段的别名为sp。然后再看看select后面的 s.*，就是原表的字段，我这里面只有一个字段，且为X

多个lateral view的sql类如：

 

SELECT * FROM exampleTable LATERAL VIEW explode(col1) myTable1 AS myCol1 LATERAL VIEW explode(myCol1) myTable2 AS myCol2;

抽取一行数据转换到新表的多列样例：

http_referer是获取的带参数请求路径，其中非法字符用\\做了转义，根据路径解析出地址，查询条件等存入新表中，

 

1. drop table if exists t_ods_tmp_referurl;

2. create table t_ ods _tmp_referurl as

3. SELECT a.*,b.*

4. FROM ods_origin_weblog a LATERAL VIEW parse_url_tuple(regexp_replace(http_referer, "\\"", ""), 'HOST', 'PATH','QUERY', 'QUERY:id') b as host, path, query, query_id;

 

复制表，并将时间截取到日：

 

1. drop table if exists t_ods_tmp_detail;

2. create table t_ods_tmp_detail as

3. select b.*,substring(time_local,0,10) as daystr,

4. substring(time_local,11) as tmstr,

5. substring(time_local,5,2) as month,

6. substring(time_local,8,2) as day,

7. substring(time_local,11,2) as hour

8. From t_ ods _tmp_referurl b;