大数据：Hadoop文件操作HDFS常用命令

Posted 2022-09-08 zhangphil

大数据：Hadoop文件操作HDFS常用命令（一）

 

1、创建目录。在HDFS中创建一个文件目录：

hadoop dfs -mkdir

 

2、查看文件结构目录：

hdfs dfs -ls -R /

例如，在HDFS中创建一个test_dir的文件目录，然后查看：

 

如果查看具体某一个文件目录下的文件层次，则为：

hadoop fs -ls /mydir

mydir是开发者在HDFS中创建的文件夹目录。

 

3、上传单个文件。往test_dir上传一个文件，假设需要上传一个E:/hadoop/myfile/f1.txt的文件，到HDFS中的test_dir下面，则命令为：

hadoop fs -put E:/hadoop/myfile/f1.txt /test_dir

 

 

4、删除文件。如何删除文件呢？假设要删除刚才上传好的f1.txt文件，则为：

hadoop fs -rm -r -skipTrash /test_dir/f1.txt

如图：

 

 

5、删除文件夹。如果是删除整个文件夹目录，则是：

hadoop fs -rm -r -skipTrash /test_dir

如图：

 

 

6、上传整个目录文件夹。把计算机本地的一个文件夹目录全部上传到HDFS。假设本地有一个文件夹myfile，myfile下面有f1.txt，f2.txt，f3.txt。

命令：

hadoop dfs -put E:/hadoop/myfile  /

如图：

 

 

7、重命名文件夹。假设现在需要把HDFS中的myfile文件夹名字改为mydir，则为：

hdfs dfs -mv /myfile /mydir

如图：

 

8、把HDFS中整个文件夹目录下的文件合并并下载到本地。假设把之前前面已经上传到HDFS中mydir下的所有文件合并成一个完整的文件下载到本地的E:/hadoop下，名字叫temp，则命令：

hdfs dfs -getmerge /mydir E:/hadoop/temp

如图：

本例中mydir下f1.txt , f2.txt , f3.txt里面仅仅只是文本字符。当把这些文件合并到一个temp文件中后，是把f1.txt , f2.txt , f3.txt中所有文本字符合并追加到temp中去。

 

9、从HDFS中把文件下载到本地。假设把HDFS中的mydir/f1.txt文件下载到本地E:/hadoop下，则：

hadoop dfs -get /mydir/f1.txt E:/hadoop/f1.txt

 

 

10、查看HDFS中的文件内容。假设查看mydir下的f1.txt文件内容。命令为：

hadoop dfs -text /mydir/f1.txt

或者：

hadoop dfs -cat /mydir/f1.txt

如图：

 

 

11、统计HDFS基本信息。命令：

hdfs dfsadmin -report

如图：

 

 

附：

大数据平台Hadoop在Windows10上的搭建配置：https://zhangphil.blog.csdn.net/article/details/98730797