hdfs删除几天之前的数据

Posted water-sky

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hdfs删除几天之前的数据相关的知识,希望对你有一定的参考价值。

删除几天之前的数据

#!/bin/bash
array=(
/CC/aaa
/CC/bbb
/CC/ccc
)
for i in ${array[@]};do
hdfs dfs -ls $i | awk ‘BEGIN{ one_days_ago=strftime("%F", systime()-2*24*3600) }{ split($6,arr," "); if(arr[1]<one_days_ago){printf "%s
", $8} }‘ |xargs hdfs dfs -rm -r >/dev/null 2>&1
done

 

以上是关于hdfs删除几天之前的数据的主要内容,如果未能解决你的问题,请参考以下文章

Vscode在使用变量之前转义斜杠

Kafka-文件管理

即使从 hdfs 删除后,Hive 如何读取数据?

大数据学习——java代码实现对HDFS文件的readappendwrite操作

覆盖 hdfs 目录 Sqoop 导入

再谈HDFS中的不同的节点