通过javaAPI上传文件到HDFS文件系统

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了通过javaAPI上传文件到HDFS文件系统相关的知识,希望对你有一定的参考价值。

import java.io.BufferedInputStream;

import java.io.FileInputStream;

import java.io.InputStream;

import java.io.OutputStream;

import java.net.URI;


import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.apache.hadoop.util.Progressable;


public class UploadFile {

public static void main(String[] args) {

try {

String localSrc = "E://Temp/117227.jpg";


String dst = "hdfs://ip:8020/tmp/hadoop-xiaohu/117227.jpg";


InputStream in = new BufferedInputStream(new FileInputStream(localSrc));


Configuration conf = new Configuration();


FileSystem fs = FileSystem.get(URI.create(dst), conf);


OutputStream out = fs.create(new Path(dst), new Progressable() {


public void progress() {


System.out.print(".");


}


});


IOUtils.copyBytes(in, out, 4096, true);


System.out.println("success");


} catch (Exception e) {


e.printStackTrace();


}


}

}

上传成功后通过浏览器打开50070查看,选择

Browse Directory

文件列表就显示出来了

本文出自 “学神Linux--星月情缘” 博客,请务必保留此出处http://xuegodxingyue.blog.51cto.com/5989753/1904018

以上是关于通过javaAPI上传文件到HDFS文件系统的主要内容,如果未能解决你的问题,请参考以下文章

HDFS设计思想元数据简单JAVAAPI操作HDFS

HDFS设计思想元数据简单JAVAAPI操作HDFS

HDFS 在写文件的过程中能否 ls 到正在写的文件?

HDFS 在写文件的过程中能否 ls 到正在写的文件?

HDFS 在写文件的过程中能否 ls 到正在写的文件?

HDFS-NFS-网关