[0010] windows 下 eclipse 开发 hdfs程序样例

Posted 2020-08-15 sunzebo

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了[0010] windows 下 eclipse 开发 hdfs程序样例相关的知识，希望对你有一定的参考价值。

目的：

学习windows 开发hadoop程序的配置

环境：

基于以下环境配置好后。

[b0008] Windows 7 下 hadoop 2.6.4 eclipse 本地开发调试配置

1. 新建HDFS下载文件类

在已有mapreduce项目中新建类添加如下代码，代码从[0007]中取出小修改

功能：从hdfs下载文件到windows本地

package hadoop.hdfs;

import java.io.FileNotFoundException;
import java.io.FileOutputStream;
import java.io.IOException;

import org.apache.commons.compress.utils.IOUtils;
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;

/**
 *  功能：      将 hdfs://ssmaster:9000/data/paper.txt下载到Windows下c:\\paper.txt
 *  调用方式：hadoop jar 打包包名.jar  
 */

public class Hdfs_Download {

    public static void main(String[] args) {
        
    Configuration conf =new Configuration();
    
    FileSystem fs = null;
    Path src = null;
    FSDataInputStream in = null;
    FileOutputStream out = null;
      
//    src = new Path("hdfs://ssmaster:9000/data/paper.txt" );
    
    src = new Path("hdfs://ssmaster:9000/data/paper.txt" );
    
    try {
        
      fs = FileSystem.get(conf) ;
      in = fs.open(src);

       } catch (IOException e) {
        e.printStackTrace(); 
    }
    
    try {
        out = new FileOutputStream ("c:\\\\paper.txt");
    } catch (FileNotFoundException e) {
        e.printStackTrace();
    }
    
    try {
        IOUtils.copy(in, out);
    } catch (IOException e) {
        e.printStackTrace();
    }

}
}