Yarn资源调度管理

Posted lyr999736

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Yarn资源调度管理相关的知识,希望对你有一定的参考价值。

1.ResourceManager(资源管理器RM)常驻守护进程:
  管理集群资源,负责全局资源的监控、分配和管理;
  接收来自nodemanager的心跳信息,进行整体资源的汇总;
  监控Applicacation Master的开启和创建;

2.Nodemanager(节点管理器NM)常驻守护进程:
  yarn中的每一台节点服务器都运行一个nodemanager,Nodemanager相当于管理当前机器的一个代理;
  负责本台机器的程序运行,并且对本台机器资源进行管理和监控;
  Nodemanager定时向ResourceManager汇报本节点的资源(cpu、内存)使用情况;
  启动并监控Container(容器);

3.Applicacation Master(应用节点)守护进程:
  用户提交一个应用将会产生相对应的Applicacation Master(AM),AM常驻在  Nodemanager上;
  每个AM都需要与Nodemanager进行资源协商,将获取所需的资源(Container)用于任务(Task)的运行
  监控任务(Task)的运行情况;
  如果Task运行失败,它将负责为其重新申请资源和启动任务;

4.yarn调度方式

  1.先进先出调度

  2.容量调度

  3.公平调度












以上是关于Yarn资源调度管理的主要内容,如果未能解决你的问题,请参考以下文章

菜鸟浅析资源管理调度框架Yarn

Yarn资源调度管理

0012 - YARN三种资源调度器解析

Yarn资源调度过程详细

学习笔记Hadoop—— Hadoop基础操作—— YARN资源管理与调度策略

YARN应用场景原理与资源调度