spark executor 数量

Posted 述而不做

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark executor 数量相关的知识,希望对你有一定的参考价值。

  一.指定spark executor 数量的公式

executor 数量 = spark.cores.max/spark.executor.cores
spark.cores.max 是指你的spark程序需要的总核数
spark.executor.cores 是指每个executor需要的核数


二. 命令示例
spark-submit --class com.cjh.test.WordCount --conf spark.executor.memory=800m --conf spark.executor.cores=2 --conf spark.cores.max=6 my.jar

  

以上是关于spark executor 数量的主要内容,如果未能解决你的问题,请参考以下文章

Spark:如何指定持有 RDD 的 executor 数量?

Yarn 是不是根据我们在 spark-submit 命令中传递的 executor 数量为 application master 分配一个容器

spark 并行度

工作常用之Spark调优资源调优

工作常用之Spark调优[二资源调优

Spark 独立数量执行器/核心控制