HDFS的JAVA客户端编写

Posted studygithub5208868

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS的JAVA客户端编写相关的知识,希望对你有一定的参考价值。

jar包方式部署:

1、创建一个java工程,命名为weekend110

技术图片

 

 2、需要在java Build Path添加Libraries命名为hdfs  

技术图片

 

 技术图片

 

在hdfs里面 添加jar包:

技术图片

 

 接着添加lib所有jar包:

技术图片

 

 再添加common的核心包:

技术图片

 

 最后再重新添加lib包,重复可以覆盖!

完成ok!

 

第二步,创建java工程!

技术图片

 

 第三步:在Linux环境下启动命令:start-dfs.sh

技术图片

 

 第四步:查看

技术图片

 

 第五步:创建一个download文件

技术图片

 

 第六步:在java代码的main方法直接运行,会出现错误:

技术图片

 

 分析:没有拿到hdfs的事例,只拿到本地文件的事例!

解决问题:

方法1:在java工程的src目录创建一个core-site.xml、hdfs-site.xml文件,配置属性是:

core-site.xml:

<configuration>
<!-- 指定HADOOP所使用的文件系统schema(URI),HDFS的老大(NameNode)的地址 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://192.168.66.5:9000</value>
</property>
<!-- 指定hadoop运行时产生文件的存储目录 -->
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/local/hadoop/hadoop-2.4.1/data</value>
</property>

</configuration>

 

hdfs-site.xml:

<configuration>
<!-- 指定HDFS副本的数量 -->
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<!--获取文件夹写入权限-->
<property>
<name>dfs.permissions.enabled</name>
<value>false</value>
</property>
</configuration>

             

如图所示:

技术图片

 

 最后,直接运行:

技术图片

 

以上是关于HDFS的JAVA客户端编写的主要内容,如果未能解决你的问题,请参考以下文章

HDFS的java客户端编写

HDFS的JAVA客户端编写

一脸懵逼学习hadoop之HDFS的java客户端编写

Hadoop学习2

HDFS的Java客户端操作代码(HDFS的查看创建)

Java连接hdfs指定用户名