Sqoop2使用方法简介

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Sqoop2使用方法简介相关的知识,希望对你有一定的参考价值。

1.sqoop2-shell 进入 shell


2.show connector 显示支持的连接方式

技术分享技术分享

技术分享


3.show link -all 查看已有连接的信息


ink with id 1 and name .168.1.188-1464317401319 (Enabled: true, Created by Administrator at 5/27/16 10:50 AM, Updated by Administrator at 5/27/16 10:50 AM)

Using Connector generic-jdbc-connector with id 4

  Link configuration

    JDBC Driver Class: com.mysql.jdbc.Driver

    JDBC Connection String: ****************************************

    Username: 

    Password: 

    JDBC Connection Properties: 


4. create link -c 4 表示创建基于connector4 的link


创建的时候要输入步骤3显示的信息



5create job -f -t


-f 从哪个link

-t 到哪个link


(schema name,table name )和 table sql statement 是互斥的只能写其中一个


table sql statement 要写${CONDITIONS}


check column 和last value 两个参数用作增量更新


这里选择普通文件(TEXT_FILE)和不压缩(NONE)的方式进行导入,方便查看导入文件


技术分享技术分享




创建成功会返回id


用show job -jid 18  查看job,id为18的详细信息



6.如果报错,想要显示具体的错误信息,可以执行下列语句。

sqoop:000> set option -name verbose -value true

Verbose option was changed to true


设置前

技术分享

技术分享

设置后,可以在报错信息中查看具体错误信息并排查。


技术分享技术分享




start job -jid 18 -s    

-s:表示实时显示job的执行进度,默认不写的话,只会显示到job开始



7status job -jid 18 

显示 id为18的job的执行状态

技术分享

技术分享



显示执行成功


8.查看Hdfs控制台

技术分享技术分享


表明已经导入成功,如果还不放心 可以用

hadoop dfs -cat /tmp/xktest/文件名

来查看文件具体内容是否和表中的相同。


本文出自 “去买大白兔” 博客,转载请与作者联系!

以上是关于Sqoop2使用方法简介的主要内容,如果未能解决你的问题,请参考以下文章

sqoop2报错,哪位大神指点迷津。

Hadoop 2.7.2 + Sqoop2 安装使用

Sqoop2安装

Sqoop2 Hbase 导入:无法为行键列插入具有空值的行

Sqoop1和sqoop2导入导出

基于Hadoop生态圈的数据仓库实践 —— ETL