尝试进行 sqoop 导入时卡住了
Posted
技术标签:
【中文标题】尝试进行 sqoop 导入时卡住了【英文标题】:Got stuck while trying to procced with sqoop import 【发布时间】:2017-03-27 06:29:55 【问题描述】:我正在尝试使用以下命令将数据从 mysql 导入到 hadoop
sqoop import --connect jdbc:mysql://192.168.0.107/manusql --table sales --username TEST2 --P --target-dir /home/sqoopdata -m 3
但是,命令执行卡在下面的过程中。
17/03/27 02:21:17 INFO orm.CompilationManager: Writing jar file: /tmp/sqoop-root/compile/01b7ea34648fcad142b7f3e142a8f087/sales.jar
17/03/27 02:21:17 WARN manager.MySQLManager: It looks like you are importing from mysql.
17/03/27 02:21:17 WARN manager.MySQLManager: This transfer can be faster! Use the --direct
17/03/27 02:21:17 WARN manager.MySQLManager: option to exercise a MySQL-specific fast path.
17/03/27 02:21:17 INFO manager.MySQLManager: Setting zero DATETIME behavior to convertToNull (mysql)
17/03/27 02:21:17 INFO mapreduce.ImportJobBase: Beginning import of sales
有人可以帮忙吗?
【问题讨论】:
在您的 sqoop 命令中添加-verbose
以查看扩展日志
【参考方案1】:
检查资源管理器日志可能存在数据类型不兼容问题。也可以先尝试使用 -m 1(单一映射器)进行顺序访问,然后再尝试使用 -m 3。
【讨论】:
以上是关于尝试进行 sqoop 导入时卡住了的主要内容,如果未能解决你的问题,请参考以下文章
Sqoop-2 在使用 sqoop shell 进行自定义查询的大型导入到单个节点时失败
通过 oozie 从 sqoop 作业增量导入不会更新 sqoop 元存储中的 incremental.last.value