如何将json数据导入到Hive中

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了如何将json数据导入到Hive中相关的知识,希望对你有一定的参考价值。

参考技术A 目前我知道的方法是把你希望添加的数据写入到文本中,然后从文本导入到你的表格中。 但是,hive不知道oracle的insert into , update。 load data [local] inpath 'yourfile_location' [overwrite] into your_table;

如何使用 sqoop 将 Mysql 中的所有表导入到 hive 中用于 hive 中的特定数据库?

【中文标题】如何使用 sqoop 将 Mysql 中的所有表导入到 hive 中用于 hive 中的特定数据库?【英文标题】:how to import-all-tables from Mysql to hive using sqoop for particular database in hive? 【发布时间】:2019-06-24 12:39:05 【问题描述】:

sqoop import-all-tables into hive with default database 工作正常,但 Sqoop import-all-tables into hive 指定数据库不工作。

由于--hive-database 已贬值如何指定数据库名称

sqoop import-all-tables \
--connect "jdbc:mysql://quickstart.cloudera:3306/retail_db" \
--username root \
--password XXX  \
--hive-import \
--create-hive-table 

以上代码在 /user/hive/warehouse/ 即默认目录下创建表

如何将所有表导入/user/hive/warehouse/retail.db/

【问题讨论】:

【参考方案1】:

您可以使用选项 --warehouse-dir 设置数据库的 HDFS 路径。 下一个例子对我有用:

sqoop import-all-tables \
--connect jdbc:mysql://localhost:3306/retail_db \
--username user \
--password password \
--warehouse-dir /apps/hive/warehouse/lina_test.db
--autoreset-to-one-mapper

【讨论】:

请重新措辞以避免给人提出问题的印象(以“Can”开头的非问题在世界某些地方是当地的成语,但经常被误认为“the ? is missing” .)。另外,请避免“尝试”,从而使这一点更加自信。另外请查看***.com/editing-help 以提高您帖子的可读性。如果这实际上是一个尝试某事的请求,那么请使用您的评论权限,而不是做出试探性的、探索性的回答。

以上是关于如何将json数据导入到Hive中的主要内容,如果未能解决你的问题,请参考以下文章

hive 存储,解析,处理json数据

如何将数据从mongodb导入hive

大数据NiFi(十九):实时Json日志数据导入到Hive

如何使用 sqoop 将 Mysql 中的所有表导入到 hive 中用于 hive 中的特定数据库?

如何利用sqoop将hive数据导入导出数据到mysql

sqoop mysql数据变化怎么导入