HDFS问题汇总
Posted locker-c
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS问题汇总相关的知识,希望对你有一定的参考价值。
1、datanode无法启动
问题描述:使用命令 hadoop-daemons.sh start datanode ,没有报错信息,但jps时没有启动datanode
解决方式:查看日志 logs/hadoop-centos-datanode*.log
可能出现的问题: 在集群多次重新格式化HDFS之后,或者刚安装时会碰到。日志信息如下:
java.io.IOException: Incompatible namespaceIDs in /root/tmp/dfs/data:
NameNode namespaceID = 1307672299; DataNode namespaceID = 389959598
多次格式化导致ID不一致
解决办法:最直接有效的办法就是修改Datanode上的namenodeID(位于/dfs/data/current/VERSION文件中)或修改NameNode的namespaceID(位于/dfs/name/current/VERSION文件中),使其一致。
注 :粗暴的方式是删除datanode的VERSION,不推荐,因为重启datanode时会删除datanode的数据
以上是关于HDFS问题汇总的主要内容,如果未能解决你的问题,请参考以下文章
优化技巧汇总_通用优化+Linux 优化+HDFS 优化+MapReduce 优化+HBase 优化+内存优化+JVM 优化+Zookeeper 优化
优化技巧汇总_通用优化+Linux 优化+HDFS 优化+MapReduce 优化+HBase 优化+内存优化+JVM 优化+Zookeeper 优化