spark调优

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark调优相关的知识,希望对你有一定的参考价值。

/etc/sysconfig/network-scripts/ifcfg-eth0
service network restart

性能调优的王道是优化资源调度,或者给更多的资源进行调度
/server/spark/spark-submit
--class cn.spark.sparkest.core.WordCountCluster
--num-executors 3
--driver-memory 100m
--executor-memory 100m
--executor-cores 3
/server/SparkTest-0.0.1-SNASPSHOT-jar-with-dependencies.jar

Spark Core 、Sqark SQl 和 Spark Streaming

以上是关于spark调优的主要内容,如果未能解决你的问题,请参考以下文章

spark性能调优指南——高级篇

Spark性能优化指南——高级篇

Spark性能优化指南——高级篇

Spark学习之路 SparkCore的调优之数据倾斜调优

Spark性能优化指南——高级篇

Spark性能优化指南——高级篇