某游戏厂商 hdfs 迁移 distcp failing write attempt Tried pipline recovery 5 times without success 问题排查

Posted hdpdriver

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了某游戏厂商 hdfs 迁移 distcp failing write attempt Tried pipline recovery 5 times without success 问题排查相关的知识,希望对你有一定的参考价值。

报错截图: 从报错信息看是 distcp 起的map 任务在写 hdfs 的 pipline 失败了,并且重试了5次没有成功,所以这个 task 直接抛出错误失败被 kill 了. 先说解决办法: 清空了 hdfs 所以节点的 iptables 防火墙规则 加了参数 -Dmapreduce.map.

以上是关于某游戏厂商 hdfs 迁移 distcp failing write attempt Tried pipline recovery 5 times without success 问题排查的主要内容,如果未能解决你的问题,请参考以下文章

HDFS数据迁移解决方案之DistCp工具的巧妙使用

HDFS PB级数据无感迁移实践

HDFS PB级数据无感迁移实践

HDFS跨集群(Insecure To Secure)数据迁移实战

至少一个文件系统不支持 ACL:Distcp HDFS

为啥我们需要 distcp 命令将数据从 hdfs 复制到 s3,而我们可以直接将数据写入 s3 位置?