spark源码阅读 启动代码阅读

Posted

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了spark源码阅读 启动代码阅读相关的知识，希望对你有一定的参考价值。

spark启动代码阅读：

spark使用一系列的shell脚本作为入口：其中bin目录下面是任务提交的脚本；sbin目录是master和worker启停相关的脚本。

而所有脚本最后都是通过调用bin/spark-class来实现对java（scala）代码的调用。

----------------------spark-class获取java参数分析 开始-------------------------------------

spark-class的代码处理流程：

  1. 调用org.apache.spark.launcher.Main并把传入的参数代入，以获取到具体的参数：

("$RUNNER" -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main "[email protected]")将参数代入，即执行的是：

/usr/java/jdk/bin/java -cp /home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar org.apache.spark.launcher.Main org.apache.spark.deploy.SparkSubmit --class com.xxx.xxxx.stat.core.Main --master spark://xxxx1:7077,xxxx2:7077 --executor-memory 2G --driver-memory 5G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

这行代码返回的是：

/usr/java/jdk/bin/java -cp /home/xxx/spark/libext/*:/home/xxx/spark/conf/:/home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar:/home/xxx/spark/lib/datanucleus-api-jdo-3.2.6.jar:/home/xxx/spark/lib/datanucleus-core-3.2.10.jar:/home/xxx/spark/lib/datanucleus-rdbms-3.2.9.jar:/home/xxx/yarn/etc/hadoop -DLOG_LEVEL=INFO -DROLE_NAME=console -Xms5G -Xmx5G -Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M org.apache.spark.deploy.SparkSubmit --master spark://xxxx1:7077,xxxx2:7077 --conf spark.driver.memory=5G --class com.xxx.xxxx.stat.core.Main --executor-memory 2G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

可以看出org.apache.spark.launcher.Main类的主要作用就是填充了最终执行的java命令的参数。包括classpath、java命令的堆栈参数等。下面分析下实现过程：

1.org.apache.spark.launcher.Main是一个单独的路径，不属于core的一部分。

2.org.apache.spark.launcher.Main这个类对于org.apache.spark.deploy.SparkSubmit这个的调用，创建了builder = new SparkSubmitCommandBuilder(args);用来规整sparksubmit命令的java参数。

3.对于其他的调用（应该主要是master和worker的调用），创建了builder = new SparkClassCommandBuilder(className, args);用于规整其他命令的java参数。

对于上面两种情况，都是先初始化，然后调用builder的buildCommand方法两步就生成了java代码的参数。

SparkSubmitCommandBuilder通过调用内部类class OptionParser extends SparkSubmitOptionParser 进行对参数的解析。

classpath主要在

buildCommand

buildSparkSubmitCommand

buildJavaCommand(在父类中)

在各种可能含有classpath的地方获取。

-Xms5G -Xmx5G这两个参数是在buildSparkSubmitCommand中的通过参数中的SPARK_DRIVER_MEMORY(spark.driver.memory)解析获取到的

-Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M则是通过addPermGenSizeOpt(cmd);在配置文件中的spark.driver.extraJavaOptions这个配置项（DRIVER_EXTRA_JAVA_OPTIONS = "spark.driver.extraJavaOptions";）解析获取到的。

----------------------------spark-class获取java参数分析 结束----------------------------------------------------------

先分析下目前使用较多的bin/spark-submit(spark任务提交，driver进程启动)、sbin/start-master.sh（后台启动，master进程启动）、sbin/start-slave.sh(后台启动，worker进程启动)，启动代码都在spark-1.5.2\core\src\main\scala\org\apache\spark\deploy：

  1. spark-submit

通过spark-class调用的类名：org.apache.spark.deploy.SparkSubmit

下面来分析，是怎么把driver启动起来的，分析类SparkSubmit.scala

/usr/java/jdk/bin/java -cp /home/xxx/spark/libext/*:/home/xxx/spark/conf/:/home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar:/home/xxx/spark/lib/datanucleus-api-jdo-3.2.6.jar:/home/xxx/spark/lib/datanucleus-core-3.2.10.jar:/home/xxx/spark/lib/datanucleus-rdbms-3.2.9.jar:/home/xxx/yarn/etc/hadoop -DLOG_LEVEL=INFO -DROLE_NAME=console -Xms5G -Xmx5G -Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M org.apache.spark.deploy.SparkSubmit --master spark://xxxx1:7077,xxxx2:7077 --conf spark.driver.memory=5G --class com.xxx.xxxx.stat.core.Main --executor-memory 2G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

传入的参数主要是：

--conf spark.driver.memory=5G

--class com.xxx.xxxx.stat.core.ExcuteMain

--executor-memory 2G

--total-executor-cores 10

/home/xxx/xxxxxxx/bigdata-xxxxxxx.jar

com.xxx.xxxx.stat.xxx.XXXXJob

20180527

20180528

SparkSubmit的Main函数，通过val appArgs = new SparkSubmitArguments(args)获取到进一步解析的参数，然后调用submit(appArgs)，就实现了提交。

SparkSubmitArguments类，先调用上面org.apache.spark.launcher.Main调用过的org.apache.spark.launcher.SparkSubmitOptionParser的parse来对参数进行解析，然后调用loadEnvironmentArguments对环境中可能配置的参数进行解析或者赋予默认值。最后给action参数赋予SUBMIT的默认值：

action = Option(action).getOrElse(SUBMIT)

下面看submit的方法的处理过程：

  1. val (childArgs, childClasspath, sysProps, childMainClass) = prepareSubmitEnvironment(args)

a.定义driver代码类childArgs、childClasspath、sysProps、childMainClass。可以这样理解：submit提交了很多信息，比如使用的核数（对应的executor的个数）、每个核用的内存数、执行的driver代码（driver代码也视为一种提交的内容）

b.定义集群管理clusterManager，根据master的前缀进行区分。yarn,spark,mesos,local

c.定义提交模式deployMode，CLIENT则driver在当前机器；CLUSTER则使用某个worker作为driver。

d.下面的代码就是对clusterManager、deployMode、python(R)组合的特殊情况处理。我们重点关注standalone模式。

e.将各个参数填入options变量中。

f.对于if (deployMode == CLIENT) { 填充四个参数。 直接将childMainClass = args.mainClass填充，在sparkSubmit中直接被runMain调用执性。

f.对于isStandaloneCluster模式（standalone和cluster模式），区分legacy和rest两种事项方式来启动一个client来执性dirver

rest方式将org.apache.spark.deploy.rest.RestSubmissionClient填充到childMainClass，

legacy方式：org.apache.spark.deploy.Client填充到childMainClass

在sparksubmit中执行上面的类，而将args.mainClass作为参数传给上面的类。

g.对于cluster模式忽略spark.driver.host参数。

h.返回四个参数

四个参数的解释：

  • This returns a 4-tuple:

  • (1) the arguments for the child process,

  • (2) a list of classpath entries for the child,

  • (3) a map of system properties, and

  • (4) the main class for the child
  1. 调用doRunMain

runMain

调用提交的childMainClass，

mainClass = Utils.classForName(childMainClass)

val mainMethod = mainClass.getMethod("main", new ArrayString.getClass)

mainMethod.invoke(null, childArgs.toArray)

  1. start-master.sh(中间调用了spark-daemon.sh)

通过spark-class调用的类名：org.apache.spark.deploy.master.Master

调用时带的参数：

  1. start-slave.sh(中间调用了spark-daemon.sh)

通过spark-class调用的类名：org.apache.spark.deploy.worker.Worker

调用时带的参数：

以上是关于spark源码阅读 启动代码阅读的主要内容，如果未能解决你的问题，请参考以下文章

阅读源码｜Spark 与 Flink 的 RPC 实现

记载我的spark源码阅读火花

emacs+ensime+sbt打造spark源码阅读环境

Apache Spark源码阅读环境搭建

Apache Spark源码阅读环境搭建

spark源码阅读-脚本篇