2020年寒假假期总结0203

  使用sqoop将hive中的统计数据导入到mysql中

  思路:首先在hive上创建临时表,然后将统计数据放在临时表中,最后通过sqoop将临时表中的数据导入到mysql中。

  例子:将各个官方部门回答的数量都导入到mysql中。

  1.在hive中创建capital_temp表

create table capital_temp(
object string,
num int);

  2.统计结果放入到临时表当中

insert capital_temp
select object,count(1) as num from capital_info group by object

  3.因为每个hive的表都在hdfs上有文件存储,所以我们只需将hdfs上的数据导入到mysql上即可。

2020年寒假假期总结0203

 

 

   

bin/sqoop export --connect \
jdbc:mysql://192.168.133.130:3306/holiday2020?useUnicode=true\&characterEncoding=utf-8 \
--username root --password heiyang123 --table capital_temp \
--export-dir \
/user/hive/warehouse/capital_temp/000000_0 --input-fields-terminated-by '\001'

  注意点:

  1.sqoop jdbc中含有参数 导致–-username: 未找到命令的错误

  解决方案:在jdbc的URL中如果含有&字符,会出现–-username: 未找到命令的错误的报错信息,解决办法:在&字符前添加\即可。

  2.sqoop导入报错Can't parse input data

  解决方案:在sqoop命令中对于字符的分割形式出现了错误,我的数据分割符号是制表符“\t“,但是语句中写的是“,”,所以出现了以下的错误,改成自己的分割符号就好

  3.sqoop导出报错Incorrect string value: '\xE5\xBC\xA0\xE6\x96\x87...'

  解决方案:没有给mysql的字段设置编码,加上就好

alter table capital_temp change answerobject answerobject varchar(200) character set utf8;

  4.sqoop导入数据之后查看数据,发现num没有数值,而是一起去了第一列,基本上确认问题所在:分隔符的问题。

  解决方案:所以只需要将分隔符修改就行。

将原本命令中的--fields-terminated-by '\t'
改为--fields-terminated-by '\001'

 

上一篇:数据同步工具Sqoop和DataX


下一篇:Sqoop从关系型数据库往HDFS上导入及导出文件