SPARK 创建新任务

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了SPARK 创建新任务相关的知识,希望对你有一定的参考价值。

1、应用程序创建 SparkContext 的实例 sc

2、利用 SparkContext 的实例来创建生成 RDD

3、经过一连串的 transformation 操作,原始的 RDD 转换成为其它类型的 RDD

4、当 action 作用于转换之后 RDD 时,会调用 SparkContext 的 runJob 方法

5、sc.runJob 的调用是后面一连串反应的起点,关键性跃变发生

以上是关于SPARK 创建新任务的主要内容,如果未能解决你的问题,请参考以下文章

Spark源码剖析——SparkContext的初始化_创建任务调度器TaskScheduler

基于容器云提交spark job任务

Spark 资源调度 与 任务调度

Spark任务提交与执行之RDD的创建转换及DAG构建

Spark任务提交与执行之RDD的创建转换及DAG构建

spark如何确定任务数量?