尝试进行 sqoop 导入时卡住了

Posted

技术标签:

【中文标题】尝试进行 sqoop 导入时卡住了【英文标题】:Got stuck while trying to procced with sqoop import 【发布时间】:2017-03-27 06:29:55 【问题描述】:

我正在尝试使用以下命令将数据从 mysql 导入到 hadoop

sqoop import --connect jdbc:mysql://192.168.0.107/manusql --table sales --username TEST2 --P --target-dir /home/sqoopdata -m 3

但是,命令执行卡在下面的过程中。

17/03/27 02:21:17 INFO orm.CompilationManager: Writing jar file: /tmp/sqoop-root/compile/01b7ea34648fcad142b7f3e142a8f087/sales.jar
17/03/27 02:21:17 WARN manager.MySQLManager: It looks like you are importing from mysql.
17/03/27 02:21:17 WARN manager.MySQLManager: This transfer can be faster! Use the --direct
17/03/27 02:21:17 WARN manager.MySQLManager: option to exercise a MySQL-specific fast path.
17/03/27 02:21:17 INFO manager.MySQLManager: Setting zero DATETIME behavior to convertToNull (mysql)
17/03/27 02:21:17 INFO mapreduce.ImportJobBase: Beginning import of sales

有人可以帮忙吗?

【问题讨论】:

在您的 sqoop 命令中添加 -verbose 以查看扩展日志 【参考方案1】:

检查资源管理器日志可能存在数据类型不兼容问题。也可以先尝试使用 -m 1(单一映射器)进行顺序访问,然后再尝试使用 -m 3。

【讨论】:

以上是关于尝试进行 sqoop 导入时卡住了的主要内容,如果未能解决你的问题,请参考以下文章

Sqoop-2 在使用 sqoop shell 进行自定义查询的大型导入到单个节点时失败

Sqoop 导入安全 hbase 失败

Oozie Sqoop 工作

Sqoop 导入不适用于蜂巢镶木地板

通过 oozie 从 sqoop 作业增量导入不会更新 sqoop 元存储中的 incremental.last.value

sqoop导入奇怪的错误