CDH6.3配置HDFS高可用，多NameNode
Posted
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了CDH6.3配置HDFS高可用，多NameNode相关的知识，希望对你有一定的参考价值。
参考技术A 搭建HDFS的NameNode集群, 在单个NameNode宕机或繁忙时, 可以做故障转移和压力平摊; 配置的过程比较复杂, 网上的可查资料也很少开启了高可用, 不需要SecondaryNameNode, 该角色并不具备故障转移的功能, 可以理解为一个备份点, 解读Secondary NameNode的功能 ;
在只有一个NameNode的情况下, 必须配置SecondaryNameNode; 但多个NameNode的时候, 如果没删除会报错校验不通过, 这里先忽略不理
建议NameNode进行一次格式化, DataNode的数据目录进行清空, 生产环境慎重操作. 重启的时候DataNode放在最后执行, 确保所有的节点都是正常的, 通过Hadoop的UI可以查看准确的状态(9870端口); 如果在日志种出现如下报错, Block pool ID needed, but service not yet registered with NN
可尝试在每台DataNode将错误的文件删掉(/dfs/dn/current), 日志中有详细的打印, 删除之后节点状态恢复正常
执行hdfs的增删改查命令做测试, 如cat,ls,put,mkdir等, 通过即为正常
NameNode和Failover Controller所在的机器要一一对应, NameNode还要执行zkfc命令进行初始化, 在运行Controller要开启故障转移, 并要确保初始化Zk的命令
去NameNode的机器执行离开安全的操作
/var/run的权限过大, 把/var/run/hdfs-sockets目录删掉或重新授权
在不开启高可用的时候, 必须配置SecondaryNameNode
官方NameNode高可用配置说明
解读Secondary NameNode的功能
Cannot find any valid remote NN to service request
以上是关于CDH6.3配置HDFS高可用，多NameNode的主要内容，如果未能解决你的问题，请参考以下文章