HDFS问题汇总

Posted locker-c

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS问题汇总相关的知识,希望对你有一定的参考价值。

1、datanode无法启动

问题描述:使用命令 hadoop-daemons.sh start datanode ,没有报错信息,但jps时没有启动datanode

解决方式:查看日志  logs/hadoop-centos-datanode*.log

可能出现的问题: 在集群多次重新格式化HDFS之后,或者刚安装时会碰到。日志信息如下:

                     java.io.IOException: Incompatible namespaceIDs in /root/tmp/dfs/data:

                     NameNode namespaceID = 1307672299; DataNode namespaceID = 389959598

       多次格式化导致ID不一致

解决办法:最直接有效的办法就是修改Datanode上的namenodeID(位于/dfs/data/current/VERSION文件中)或修改NameNode的namespaceID(位于/dfs/name/current/VERSION文件中),使其一致。

      注 :粗暴的方式是删除datanode的VERSION,不推荐,因为重启datanode时会删除datanode的数据

 

以上是关于HDFS问题汇总的主要内容,如果未能解决你的问题,请参考以下文章

HDFS常用文件操作命令汇总

Hadoop知识汇总

大数据初学者问题汇总之恢复已删除的hive表数据

hadoop 50070 无法访问问题解决汇总

优化技巧汇总_通用优化+Linux 优化+HDFS 优化+MapReduce 优化+HBase 优化+内存优化+JVM 优化+Zookeeper 优化

优化技巧汇总_通用优化+Linux 优化+HDFS 优化+MapReduce 优化+HBase 优化+内存优化+JVM 优化+Zookeeper 优化