hdfs常用命令

Posted 2021-04-14 方游天下

hdfs常用操作命令：

1hdfs dfs   # 方式一  可查看命令
2hadoop fs  # 方式二  可查看命令

查看目录

1-ls
2hdfs dfs -ls  # 方式一
3hadoop fs -ls # 方式二
4hdfs dfs -ls -R /  # 查看hdfs系统下所有目录和文件

类似的

 1# 根目录创建文件夹
 2-mkdir /log  # 根目录下创建空白文件夹log
 3-mkdir -p /test1/test2  # 创建test2的同时创建test1
 4
 5# 上传本地文件
 6-put file /tar  # 上传本地文件file到hdfs目录tar
 7-put file /  # 上传本地文件file到hdfs根目录
 8-put file1 /file2  # 将本地文件file1上传到hdfs中并重命名为file2
 9-put file1 file2  # 将本地文件file1上传到hdfs的user/ubuntu/中并重命名为file2
10-put test /  # 上传本地目录test到hdfs根目录
11-put - /test3.txt  # 在根目录下新建文件test3.txt，并可键入内容，crtl+d结束，与cat不同的是这个命令要求test3.txt文件原本不存在，否则会执行失败。
12
13# 移动文件
14-moveFromLocal local_file /hdfs_file  # 将本地文件移到hdfs文件系统，是真正的移，不是copy
15如果hdfs_file是已存在的目录，那就是移动到这个目录下，如果不是，那就是重命名为这个文件。
16-mv /hdfs_file1 /hdfs_file1  # 移动hdfs中的文件
17
18# 复制文件
19-copyFromLocal local_file /hdfs_file  # 将本地文件复制到hdfs文件系统
20如果hdfs_file是已存在的目录，那就是复制到这个目录下，如果不是，那就是复制后重命名这个文件。
21-cp /hdfs_file1 /hdfs_file1  # 复制hdfs中的文件
22
23-get /hdfs_file local_file  # 将hdfs文件系统文件复制到本地
24
25# 删除文件
26-rm -r /file  # 删除文件和目录（包括目录下的文件）
27-rmr /file  # 等同于-rm -r（该命令已被取消掉，不赞成使用）
28-rm /file  # 删除文件，不支持删除目录
29
30# 追加内容
31-appendToFile local_file /hdfs_file  # 将本地文件内容追加到hdfs文件的末尾
32
33# 显示末尾
34-tail /file  # 显示文件的末尾内容
35
36# 修改文件所属和权限
37-chgrp
38-chown
39-chmod
40
41# 合并文件（下面两种中的一种，暂未尝试，偏向第二种）
42-getmerge file1 file2 file3  # 将hdfs的file1,file2,file3文件内容合并
43-getmerge /file1 file2   # 将hdfs的file1目录下文件合并命名为file2
44
45# 查看hdfs可用系统
46-df -h /  # /和-h可不加是一样的功能
47
48# 查看根目录下文件文件夹的信息大小
49-du /  # /必须加

根目录的‘/’是一定要的，否则就不是在hdfs的根目录下，而是在hdfs下新建user/ubuntu/文件夹，文件存到这个文件夹下。

‘/’代表的是hdfs系统的根目录，不加则是默认目录user/ubuntu/，但是这个目录没创建时，从这个路径下访问的命令就会失败。但那些对该目录是否存在不影响的命令会执行成功。