Hadoop-Yarn常用的调优参数

Posted 刘元涛

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Hadoop-Yarn常用的调优参数相关的知识,希望对你有一定的参考价值。

调优参数列表

(1)Resourcemanager相关

yarn.resourcemanager.scheduler.client.thread-count ResourceManager处理调度器请求的线程数量

yarn.resourcemanager.scheduler.class   配置调度器

(2)Nodemanager相关

yarn.nodemanager.resource.memory-mb                  NodeManager使用内存数

yarn.nodemanager.resource.system-reserved-memory-mb  NodeManager为系统保留多少内存,和上一个参数二者取一即可

yarn.nodemanager.resource.cpu-vcores   NodeManager使用CPU核数

yarn.nodemanager.resource.count-logical-processors-as-cores   是否将虚拟核数当作CPU核数

yarn.nodemanager.resource.pcores-vcores-multiplier 虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2

yarn.nodemanager.resource.detect-hardware-capabilities 是否让yarn自己检测硬件进行配置

yarn.nodemanager.pmem-check-enabled    是否开启物理内存检查限制container

yarn.nodemanager.vmem-check-enabled    是否开启虚拟内存检查限制container

yarn.nodemanager.vmem-pmem-ratio        虚拟内存物理内存比例

(3)Container容器相关

yarn.scheduler.minimum-allocation-mb      容器最小内存

yarn.scheduler.maximum-allocation-mb      容器最大内存

yarn.scheduler.minimum-allocation-vcores    容器最小核数

yarn.scheduler.maximum-allocation-vcores    容器最大核数

 

以上是关于Hadoop-Yarn常用的调优参数的主要内容,如果未能解决你的问题,请参考以下文章

hadoop常用的调优参数

Tomcat中常用的调优

JVM的常用的调优策略和垃圾回收算法及Tomcat的常用调优参数

JVM常见的调优参数都有哪些?

2021秋招最新JAVA面试题|JVM剖析与常用的调优总结

HiveSQL调优-最常用的调优方式