cloudera learning5:Hadoop集群高级配置

Posted 软件心理学工程师

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了cloudera learning5:Hadoop集群高级配置相关的知识,希望对你有一定的参考价值。

HDFS-NameNode Tuning:

dfs.namenode.handler.count:
NameNode可开启的thread number,thread为从NameNode到DataNode的RPC请求。Default值为30(CM,Non CM is 10)。推荐设置为集群node数量*20 再取log。如果设置的太小,当DataNode试图从NameNode上获取block信息时,DataNode log会报“connect refused”。
 
HDFS-DataNode Tuning:
dfs.datanode.failed.volumes.tolerated:
磁盘挂掉几块时,dataNode自动下线。默认为0,即DataNode不自动下线。
dfs.datanode.max.locked.memory:
DataNode最大的缓存size,默认为4G。
 
io.compression.codecs文件压缩:
配置Hadoop集群文件压缩策略:DefaultCodec, GzipCodec, BZip2Codec, DeflateCodec, SnappyCodec,Lz4Codec 
 
YARN/GateWay Tuning
mapreduce.job.reduce.slowstart.completedmaps:
Map tasks执行完成百分之多少,开始创建reducer执行的容器。
mapreduce.reduce.shuffle.parallelcopies reducer:
Reducer内部可开的线程数。CM默认为10。推荐值计算方式:ln(count(cluster nodes)*4)
 
Hadoop cluster产线环境的HA配置:
HA主要是解决NameNode的单点故障,主要指NameNode crash, NameNode manitenance。
启用HA之后,会有两个NameNode(active,standby)和两个Failover Controllers以及若干个同步NameNode的Journal Nodes。不在需要SecondaryNameNode。
clients只连接actvie NameNode。
DataNodes的heartbeat会同时发给active和standby NameNode。
Active NameNode会把metadata写入指定数目(奇数个)的JournalNode。
Standby NameNode从JournalNodes读取metadata信息,完成与Active的sync。
ZooKeeper failover Controller 自动进行Failover。
没有failback,恢复的NameNode自动变为standby。
配置选项:dfs.ha.automatic-failover.enabled 
 
配置HA之后,Hive,impala,Hue均要进行一定的update。
 
 
 

以上是关于cloudera learning5:Hadoop集群高级配置的主要内容,如果未能解决你的问题,请参考以下文章

cloudera

如何重启Cloudera Manager

安装 Impala 是不是需要 Cloudera Navigator Key Trustee Server、Cloudera Navigator Key HSM、Cloudera Navigator

Cloudera EventServer起不来

Cloudera 安装有疑问吗?

在没有 cloudera manager 的情况下安装 cloudera impala