使用idel和maven实现hadoop上数据的读取和写入

Posted 艺海浮台

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用idel和maven实现hadoop上数据的读取和写入相关的知识,希望对你有一定的参考价值。

 1 public class TestRead {
 2     @Test
 3     public void readTest() throws Exception {
 4         Configuration conf = new Configuration();
 5         FileSystem fs = FileSystem.get(conf);
 6         FSDataInputStream fis = fs.open(new Path("hdfs://s201:8020/user/centos/hadoop/hello.txt"));
 7         IOUtils.copyBytes(fis, System.out, 1024);
 8         IOUtils.closeStream(fis);
 9 
10     }
11 
12     @Test
13     public void writeTest() throws Exception {
14         Configuration conf = new Configuration();
15         FileSystem fs = FileSystem.get(conf);
16         FSDataOutputStream fos = fs.create(new Path("hdfs://s201:8020/user/centos/hadoop/3.txt"),true,1024,(short)2,512);
17         ByteArrayInputStream bis=new ByteArrayInputStream("who am i".getBytes());
18         IOUtils.copyBytes(bis,fos,1024);
19         IOUtils.closeStream(fos);
20 
21     }
22 }

 

以上是关于使用idel和maven实现hadoop上数据的读取和写入的主要内容,如果未能解决你的问题,请参考以下文章

maven怎么连接hadoop集群

使用Maven构建Hadoop工程并实现词频统计案例(详细篇)

Hadoop面试题2020

走进大数据 | hadoop spark环境搭建及idea scala maven集成开发spark任务

Hadoop第二篇:使用Maven开发Hadoop编程进阶

Python之Idel利器jupyter notebook