namenode 问题小记
Posted qiaoyihang
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了namenode 问题小记相关的知识,希望对你有一定的参考价值。
问题1:namenode进程故障
Namenode挂掉,Namenode gc日志里面YGC报错promotion failed
现象描述
NameNode进程挂掉,Namenode gc日志里面YGC报错promotion failed。
可能原因
Young gc的时候,需要复制eden区和from区内的对象到to区,如果此时to区满了,就会使用悲观策略复制到old区,而此时old区也满了,就会报promotion failed。
定位思路
- GC参数设置不合理
- 进程内存分配过少
处理方式
方式1:
- 对于第三方管理的JVM,调低-XX:XXInitiatingOccupancyFraction值,降低触发NN XX GC的百分比,保证old区有足够内存。
方式2:
1.扩大NN内存。
问题2:NameNode内存FULL GC问题处理
生产集群namenode Full GC 告警频繁
问题描述:
将standby namenode(nn1)的内存扩至80GB后,切换namenode,standby namenode在转换为active状态时进程死掉,查看namenode和zkfc日志发现:
standby namenode由standby转换为active时,出现socket timeout,导致namenode状态转为SERVICE_NOT_RESPONDING,切换失败。
原因
bdp生产集群文件数量达到1.9亿,namenode当前内存64G,已使用约57G,内存不足,GC严重
处理
主机内存共128G,当前namenode内存为64GB,除namenode,resourcemanager,ZK,journalnode,ZKFC等进程已分配的内存外,剩余总内存约40G。
- 修改namenode JVM内存参数,将内存由64GB改为90GB,并分发;
- 检查当前active namenode为nn2;
- 重启standby namenode (nn1),确定已修改的参数已生效;
- 通过命令“hdfs haadmin -failover nn2 nn1”将active namenode切换至nn1;
- 待nn1为active,确定日志正常,且正常提供服务后,重启nn2 namenode
- 确定nn2 UI页面及日志正常,及已修改的参数已生效。
可选优化方向
- 文件数量达到1.9亿,导致namenode元数据量过大,可合并小文件以减少namenode内存使用,避免Full GC。
- 在core-site.xml文件中修改ha.health-monitor.rpc-timeout.ms参数值,来扩大zkfc监控检查超时时间。
以上是关于namenode 问题小记的主要内容,如果未能解决你的问题,请参考以下文章
2 NameNode 失败后移动 NameNode - Hortonworks - Hadoop
无法找到或加载主类 org.apache.hadoop.hdfs.server.namenode.Namenode