Tutorial 02_熟悉常用的HDFS操作

Posted 2021-01-11 icheny

Shell命令实现：

(1)向HDFS 中上传任意文本文件，如果指定的文件在HDFS 中已经存在，则由用户来指定是追加到原有文件末尾还是覆盖原有的文件；

 

(2) 从HDFS 中下载指定文件，如果本地文件与要下载的文件名称相同，则自动对下载的文件重命名；

 

(3) 将HDFS 中指定文件的内容输出到终端中；

 

(4) 显示HDFS 中指定的文件的读写权限、大小、创建时间、路径等信息；

 

(5) 给定HDFS 中某一个目录，输出该目录下的所有文件的读写权限、大小、创建时间、 路径等信息，如果该文件是目录，则递归输出该目录下所有文件相关信息；  

 

(6) 提供一个HDFS  内的文件的路径，对该文件进行创建和删除操作。如果文件所在目录不存在，则自动创建目录；  

 

(7) 删除目录时，由用户指定当该目录不为空时是否还删除该目录；

 

(8) 向HDFS 中指定的文件追加内容，由用户指定内容追加到原有文件的开头或结尾；

 

(9) 删除HDFS 中指定的文件；    

 

(10) 在HDFS 中，将文件从源路径移动到目的路径。  

 

(二) 编程实现一个类“MyFSDataInputStream”，该类继承“org.apache.hadoop.fs.FSDataInputStream”，要求如下：实现按行读取HDFS 中指定文件的方法“readLine()”，如果读到文件末尾，则返回空，否则返回文件一行的文本。

 

(三) 查看Java帮助手册或其它资料，用“java.net.URL”和“org.apache.hadoop.fs.FsURLStreamHandlerFactory”编程完成输出HDFS 中指定文件的文本到终端中。