Spark-submit 测试任务提交

Posted

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了Spark-submit 测试任务提交相关的知识,希望对你有一定的参考价值。

Spark-submit 测试任务提交

./spark-submit --keytab /usr/local/noah/basp-dataprocess-log/conf/noah.keytabs --principal [email protected] --class org.apache.spark.examples.SparkPi --master local[*] ../lib/spark-examples-1.6.3.2.6.0.3-8-hadoop2.7.3.2.6.0.3-8.jar 100
./spark-submit --class org.apache.spark.examples.SparkPi --master local[*] /app/hdp/2.6.0.3-8/spark2/examples/jars/spark-examples_2.11-2.1.0.2.6.0.3-8.jar
 100
 /usr/hdp/2.6.0.3-8/spark2/bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn --deploy-mode cluster /app/hdp/2.6.0.3-8/spark2/examples/jars/spark-examples_2.11-2.1.0.2.6.0.3-8.jar 100
./spark-submit --class org.apache.spark.examples.SparkPi --master yarn-client /app/hdp/2.6.0.3-8/spark2/examples/jars/spark-examples_2.11-2.1.0.2.6.0.3-8.jar 100

以上是关于Spark-submit 测试任务提交的主要内容,如果未能解决你的问题,请参考以下文章

spark-submit提交任务到集群,分发虚拟环境和第三方包

spark-submit 提交任务

Spark-源码-Spark-Submit 任务提交

spark-submit提交任务到yarn错误

spark-submit提交任务时报错,Error initializing SparkContext

Spark集群任务提交流程----2.1.0源码解析