sh 修复hdfs上的复制文件
Posted
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了sh 修复hdfs上的复制文件相关的知识,希望对你有一定的参考价值。
su - hdfs
hdfs fsck / | grep 'Under replicated' | awk -F':' '{print $1}' >> /tmp/under_replicated_files
for hdfsfile in `cat /tmp/under_replicated_files`; do echo "Fixing $hdfsfile :" ; hadoop fs -setrep 2 $hdfsfile; done
以上是关于sh 修复hdfs上的复制文件的主要内容,如果未能解决你的问题,请参考以下文章
使用 S3DistCp 将文件从 HDFS 复制到 EMR 集群上的 S3
从设计到实现:GFS和HDFS在复制上的设计及异同比较 | 分布式文件系统读书笔记
合并 HDFS 上的压缩文件
将数据/文件从 Windows 复制到 Linux 机器或 HDFS
如何将文件从 S3 复制到 Amazon EMR HDFS?
如何去计算hdfs中namenode中所需的堆内存大小