hadoophadoop的Job 提交流程切片源码
Posted 九师兄
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoophadoop的Job 提交流程切片源码相关的知识,希望对你有一定的参考价值。
文章目录
1.概述
在上一篇文章中:【Yarn】Yarn 是如何提交 MapReducer程序到Yarn集群的 我们知道提交MR程序的时候,会获取到生成本次作业的输入切片信息,并把切片信息写入作业准备区submitJobDir
// Create the splits for the job
LOG.debug("Creating splits at " + jtFs.makeQualified(submitJobDir)
以上是关于hadoophadoop的Job 提交流程切片源码的主要内容,如果未能解决你的问题,请参考以下文章
MapReduce 框架原理InputFormat 数据输入
4 weekend110的textinputformat对切片规划的源码分析 + 倒排索引的mr实现 + 多个job在同一个main方法中提交
大数据技术之Hadoop(MapReduce)框架原理数据压缩