Spark性能调优

Posted xdlaoliu

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark性能调优相关的知识,希望对你有一定的参考价值。

石杉老师讲要从以下几个方面去优化Spark的性能,其中Shuffle调优是重点。 

 

技术图片

下面是与调优相关的几篇不错的博客,以供参考

官网的调优 https://spark.apache.org/docs/latest/tuning.html

序列化 https://stackoverflow.com/questions/40261987/when-to-use-kryo-serialization-in-spark

shuffle调优 https://www.cnblogs.com/arachis/p/Spark_Shuffle.html

 

以上是关于Spark性能调优的主要内容,如果未能解决你的问题,请参考以下文章

Spark性能调优篇七之JVM相关参数调整

Spark性能调优——扩展篇

spark性能调优指南——高级篇

Spark Core 性能调优之配置进程参数

spark性能优化:shuffle调优

Spark常规性能调优