spark源码阅读 启动代码阅读

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark源码阅读 启动代码阅读相关的知识,希望对你有一定的参考价值。

spark启动代码阅读:

spark使用一系列的shell脚本作为入口:其中bin目录下面是任务提交的脚本;sbin目录是master和worker启停相关的脚本。

而所有脚本最后都是通过调用bin/spark-class来实现对java(scala)代码的调用。

----------------------spark-class获取java参数分析 开始-------------------------------------

spark-class的代码处理流程:

  1. 调用org.apache.spark.launcher.Main并把传入的参数代入,以获取到具体的参数:

("$RUNNER" -cp "$LAUNCH_CLASSPATH" org.apache.spark.launcher.Main "[email protected]")将参数代入,即执行的是:

/usr/java/jdk/bin/java -cp /home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar org.apache.spark.launcher.Main org.apache.spark.deploy.SparkSubmit --class com.xxx.xxxx.stat.core.Main --master spark://xxxx1:7077,xxxx2:7077 --executor-memory 2G --driver-memory 5G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

这行代码返回的是:

/usr/java/jdk/bin/java -cp /home/xxx/spark/libext/*:/home/xxx/spark/conf/:/home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar:/home/xxx/spark/lib/datanucleus-api-jdo-3.2.6.jar:/home/xxx/spark/lib/datanucleus-core-3.2.10.jar:/home/xxx/spark/lib/datanucleus-rdbms-3.2.9.jar:/home/xxx/yarn/etc/hadoop -DLOG_LEVEL=INFO -DROLE_NAME=console -Xms5G -Xmx5G -Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M org.apache.spark.deploy.SparkSubmit --master spark://xxxx1:7077,xxxx2:7077 --conf spark.driver.memory=5G --class com.xxx.xxxx.stat.core.Main --executor-memory 2G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

可以看出org.apache.spark.launcher.Main类的主要作用就是填充了最终执行的java命令的参数。包括classpath、java命令的堆栈参数等。下面分析下实现过程:

1.org.apache.spark.launcher.Main是一个单独的路径,不属于core的一部分。

2.org.apache.spark.launcher.Main这个类对于org.apache.spark.deploy.SparkSubmit这个的调用,创建了builder = new SparkSubmitCommandBuilder(args);用来规整sparksubmit命令的java参数。

3.对于其他的调用(应该主要是master和worker的调用),创建了builder = new SparkClassCommandBuilder(className, args);用于规整其他命令的java参数。

对于上面两种情况,都是先初始化,然后调用builder的buildCommand方法两步就生成了java代码的参数。

SparkSubmitCommandBuilder通过调用内部类class OptionParser extends SparkSubmitOptionParser 进行对参数的解析。

classpath主要在

buildCommand

buildSparkSubmitCommand

buildJavaCommand(在父类中)

在各种可能含有classpath的地方获取。

-Xms5G -Xmx5G这两个参数是在buildSparkSubmitCommand中的通过参数中的SPARK_DRIVER_MEMORY(spark.driver.memory)解析获取到的

-Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M则是通过addPermGenSizeOpt(cmd);在配置文件中的spark.driver.extraJavaOptions这个配置项(DRIVER_EXTRA_JAVA_OPTIONS = "spark.driver.extraJavaOptions";)解析获取到的。

----------------------------spark-class获取java参数分析 结束----------------------------------------------------------

先分析下目前使用较多的bin/spark-submit(spark任务提交,driver进程启动)、sbin/start-master.sh(后台启动,master进程启动)、sbin/start-slave.sh(后台启动,worker进程启动),启动代码都在spark-1.5.2\core\src\main\scala\org\apache\spark\deploy:

  1. spark-submit

通过spark-class调用的类名:org.apache.spark.deploy.SparkSubmit

下面来分析,是怎么把driver启动起来的,分析类SparkSubmit.scala

/usr/java/jdk/bin/java -cp /home/xxx/spark/libext/*:/home/xxx/spark/conf/:/home/xxx/spark/lib/spark-assembly-1.5.2-hadoop2.5.0-cdh5.3.2.jar:/home/xxx/spark/lib/datanucleus-api-jdo-3.2.6.jar:/home/xxx/spark/lib/datanucleus-core-3.2.10.jar:/home/xxx/spark/lib/datanucleus-rdbms-3.2.9.jar:/home/xxx/yarn/etc/hadoop -DLOG_LEVEL=INFO -DROLE_NAME=console -Xms5G -Xmx5G -Xss32M -XX:PermSize=128M -XX:MaxPermSize=512M org.apache.spark.deploy.SparkSubmit --master spark://xxxx1:7077,xxxx2:7077 --conf spark.driver.memory=5G --class com.xxx.xxxx.stat.core.Main --executor-memory 2G --total-executor-cores 10 /home/xxx/xxxxxxx/bigdata-xxxxxxx.jar com.xxx.xxxx.stat.xxx.XXXXJob 20180527 20180528

传入的参数主要是:

--conf spark.driver.memory=5G

--class com.xxx.xxxx.stat.core.ExcuteMain

--executor-memory 2G

--total-executor-cores 10

/home/xxx/xxxxxxx/bigdata-xxxxxxx.jar

com.xxx.xxxx.stat.xxx.XXXXJob

20180527

20180528

SparkSubmit的Main函数,通过val appArgs = new SparkSubmitArguments(args)获取到进一步解析的参数,然后调用submit(appArgs),就实现了提交。

SparkSubmitArguments类,先调用上面org.apache.spark.launcher.Main调用过的org.apache.spark.launcher.SparkSubmitOptionParser的parse来对参数进行解析,然后调用loadEnvironmentArguments对环境中可能配置的参数进行解析或者赋予默认值。最后给action参数赋予SUBMIT的默认值:

action = Option(action).getOrElse(SUBMIT)

下面看submit的方法的处理过程:

  1. val (childArgs, childClasspath, sysProps, childMainClass) = prepareSubmitEnvironment(args)

a.定义driver代码类childArgs、childClasspath、sysProps、childMainClass。可以这样理解:submit提交了很多信息,比如使用的核数(对应的executor的个数)、每个核用的内存数、执行的driver代码(driver代码也视为一种提交的内容)

b.定义集群管理clusterManager,根据master的前缀进行区分。yarn,spark,mesos,local

c.定义提交模式deployMode,CLIENT则driver在当前机器;CLUSTER则使用某个worker作为driver。

d.下面的代码就是对clusterManager、deployMode、python(R)组合的特殊情况处理。我们重点关注standalone模式。

e.将各个参数填入options变量中。

f.对于if (deployMode == CLIENT) { 填充四个参数。 直接将childMainClass = args.mainClass填充,在sparkSubmit中直接被runMain调用执性。

f.对于isStandaloneCluster模式(standalone和cluster模式),区分legacy和rest两种事项方式来启动一个client来执性dirver

rest方式将org.apache.spark.deploy.rest.RestSubmissionClient填充到childMainClass,

legacy方式:org.apache.spark.deploy.Client填充到childMainClass

在sparksubmit中执行上面的类,而将args.mainClass作为参数传给上面的类。

g.对于cluster模式忽略spark.driver.host参数。

h.返回四个参数

四个参数的解释:

  • This returns a 4-tuple:

  • (1) the arguments for the child process,

  • (2) a list of classpath entries for the child,

  • (3) a map of system properties, and

  • (4) the main class for the child
  1. 调用doRunMain

runMain

调用提交的childMainClass,

mainClass = Utils.classForName(childMainClass)

val mainMethod = mainClass.getMethod("main", new ArrayString.getClass)

mainMethod.invoke(null, childArgs.toArray)

  1. start-master.sh(中间调用了spark-daemon.sh)

通过spark-class调用的类名:org.apache.spark.deploy.master.Master

调用时带的参数:

  1. start-slave.sh(中间调用了spark-daemon.sh)

通过spark-class调用的类名:org.apache.spark.deploy.worker.Worker

调用时带的参数:

以上是关于spark源码阅读 启动代码阅读的主要内容,如果未能解决你的问题,请参考以下文章

阅读源码|Spark 与 Flink 的 RPC 实现

记载我的spark源码阅读火花

emacs+ensime+sbt打造spark源码阅读环境

Apache Spark源码阅读环境搭建

Apache Spark源码阅读环境搭建

spark源码阅读-脚本篇