2020年寒假假期总结0203

Posted 2021-03-12 heiyang

　　使用sqoop将hive中的统计数据导入到mysql中

　　思路：首先在hive上创建临时表，然后将统计数据放在临时表中，最后通过sqoop将临时表中的数据导入到mysql中。

　　例子：将各个官方部门回答的数量都导入到mysql中。

　　1.在hive中创建capital_temp表

create table capital_temp(
object string,
num int);

　　2.统计结果放入到临时表当中

insert capital_temp
select object,count(1) as num from capital_info group by object

　　3.因为每个hive的表都在hdfs上有文件存储，所以我们只需将hdfs上的数据导入到mysql上即可。

 

 

 　　

bin/sqoop export --connect jdbc:mysql://192.168.133.130:3306/holiday2020?useUnicode=true&characterEncoding=utf-8 
--username root --password heiyang123 --table capital_temp --export-dir /user/hive/warehouse/capital_temp/000000_0 --input-fields-terminated-by ‘01‘

　　注意点：

　　1.sqoop jdbc中含有参数 导致–-username: 未找到命令的错误

　　解决方案：在jdbc的URL中如果含有&字符，会出现–-username: 未找到命令的错误的报错信息，解决办法：在&字符前添加即可。

　　2.sqoop导入报错Can‘t parse input data

　　解决方案：在sqoop命令中对于字符的分割形式出现了错误，我的数据分割符号是制表符“ “，但是语句中写的是“，”，所以出现了以下的错误，改成自己的分割符号就好

　　3.sqoop导出报错Incorrect string value: ‘xE5xBCxA0xE6x96x87...‘

　　解决方案：没有给mysql的字段设置编码，加上就好

alter table capital_temp change answerobject answerobject varchar(200) character set utf8;

　　4.sqoop导入数据之后查看数据，发现num没有数值，而是一起去了第一列，基本上确认问题所在：分隔符的问题。

　　解决方案：所以只需要将分隔符修改就行。

将原本命令中的--fields-terminated-by ‘	‘
改为--fields-terminated-by ‘01‘