Hive_UDF函数

UDF是User defined Function的简写,意思是用户自定义方法。

UDF开发流程

1 eclipse开发一个java程序,导入hive的jar包

2 开发代码

3 将java程序打成jar包,上传到hive所在的机器上,

注意开发代码的环境和运行环境的jdk版本要一致,不然会报错Unsupported major.minor version 52.0

4 在hive的命令行中输入以下命令,将程序jar包添加到hive运行时的classpath中

5 在hive中创建一个函数名,映射到自己开发的java类:

6 接下来就可以使用自定义的函数了   下面是一个Demo:   有如下原始数据:

1,zhangsan:18:beijing|male|it,2000

2,lisi:28:beijing|female|finance,4000

3,wangwu:38:shanghai|male|project,20000

 

1先建表:

create table t_user(id int,user_info string,salary int)
row format delimited
fields terminated by ',';

 

2导数:

load data local inpath "/home/test.txt" into table t_user;

 

3上表不方便做细粒度的分析挖掘,需要将user_info字段拆解成多个字段,用hive自带的函数不方便,

通过自定义一个函数来实现拆解功能。

 

public class UserInfoParser extends UDF {
    public String evaluate(String field, int index) {
        String replaceAll = field.replaceAll("\\|", ":"); --将|替换为:
        String[] split = replaceAll.split(":");  --字符串切割
        return split[index-1];
    }
}

 

4将java程序打成jar包,上传到hive所在的机器上

 

5在hive的命令行中输入以下命令,将程序jar包添加到hive运行时的classpath中:

hive> add jar /home/badou/Documents/parseinfo.jar;

 

6在hive中创建一个函数名,映射到自己开发的java类:

hive> create temporary function parseinfo as 'hive_udf.UserInfoParse';

 

7接下来就可以使用自定义的函数uinfo_parse了

用函数拆解原来的字段,然后将结果保存到一张明细表中:

create table t_user_info
as
select
id,
parseinfo(user_info,1) as uname,
parseinfo(user_info,2) as age,
parseinfo(user_info,3) as addr,
parseinfo(user_info,4) as sexual,
parseinfo(user_info,5) as hangye,
salary
from
t_user;

 

 8 查询解析结果

 

Hive_UDF函数

 

 

上一篇:UDF 提权原理及应用


下一篇:mysql udf提权