在shell中如何判断HDFS中的文件目录是否存在

Posted 过往记忆大数据

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了在shell中如何判断HDFS中的文件目录是否存在相关的知识,希望对你有一定的参考价值。

在Linux文件系统中,我们可以使用下面的Shell脚本判断某个文件是否存在:

# 这里的-f参数判断$file是否存在 
if [ ! -f "$file" ]; then
  echo "文件不存在!"
fi

但是我们想判断HDFS上某个文件是否存在咋办呢?别急,Hadoop内置提供了判断某个文件是否存在的命令:

[iteblog@www.iteblog.com ~]$ hadoop fs -help
......
-test -[defsz] <path>:Answer various questions about <path>, with result via exit status.
         -d  return 0 if <path> is a directory.
         -e  return 0 if <path> exists.
         -f  return 0 if <path> is a file.
         -s  return 0 if file <path> is greater than zero bytes in size.
         -z  return 0 if file <path> is zero bytes in size.
       else, return 1.
......

从上面的输出可以看出,我们可以使用test命令来判断某个文件是否存在。如果文件存在,这个命令将返回0;反之则返回1。

[iteblog@www.iteblog.com ~]$ hadoop fs -test -e /path/not/exist
[iteblog@www.iteblog.com ~]$ echo $?
1
[iteblog@www.iteblog.com ~]$ hadoop fs -test -e /path/exist
[iteblog@www.iteblog.com ~]$ echo $?
0

所以我们可以在Shell里面判断HDFS上某个文件是否存在:

hadoop fs -test -d /path/exist
if [ $? -eq 0 ] ;then
   echo 'Is a directory'
else
   echo 'Is not a directory'
fi
hadoop fs -test -f /path/exist
if [ $? -eq 0 ] ;then
   echo 'Is a file'
else
   echo 'Is not a file'
fi
hadoop fs -test -s /path/exist
if [ $? -eq 0 ] ;then
   echo 'Is greater than zero bytes in size'
else
   echo 'Is not greater than zero bytes in size'
fi
hadoop fs -test -z /path/exist
if [ $? -eq 0 ] ;then
   echo 'Is zero bytes in size.'
else
   echo 'Is not zero bytes in size. '
fi


猜你喜欢

0、回复 电子书 获取 本站所有可下载的电子书

1、

2、

3、

4、

5、

6、

7、

8、

9、

10、

11、更多大数据文章欢迎访问https://www.iteblog.com及本公众号(iteblog_hadoop)
12、Flink中文文档:http://flink.iteblog.com
13、Carbondata 中文文档 http://carbondata.iteblog.com

以上是关于在shell中如何判断HDFS中的文件目录是否存在的主要内容,如果未能解决你的问题,请参考以下文章

Linux中判断hdfs文件是否存在

Shell脚本判断文件是不是存在

20.5shell脚本中的逻辑判断20.6文件目录属性判断20.7-9if特殊用法 case判断

如何用Java判断一个文件或目录是不是存在

shell脚本如何判断文件或文件夹是否存在

Shell中各种判断语法