hadoophadoop的Job 提交流程切片源码

Posted 九师兄

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoophadoop的Job 提交流程切片源码相关的知识,希望对你有一定的参考价值。

文章目录


1.概述

在上一篇文章中:【Yarn】Yarn 是如何提交 MapReducer程序到Yarn集群的 我们知道提交MR程序的时候,会获取到生成本次作业的输入切片信息,并把切片信息写入作业准备区submitJobDir

	  // Create the splits for the job
      LOG.debug("Creating splits at " + jtFs.makeQualified(submitJobDir)

以上是关于hadoophadoop的Job 提交流程切片源码的主要内容,如果未能解决你的问题,请参考以下文章

MapReduce 框架原理InputFormat 数据输入

4 weekend110的textinputformat对切片规划的源码分析 + 倒排索引的mr实现 + 多个job在同一个main方法中提交

大数据技术之Hadoop(MapReduce)框架原理数据压缩

大数据技术之Hadoop(MapReduce)框架原理数据压缩

MapReduce与Yarn 的详细工作流程分析

Spark源码分析之二:Job的调度模型与运行反馈