spark程序运行时问题
Posted -早起的码农
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark程序运行时问题相关的知识,希望对你有一定的参考价值。
spark java程序写完后,执行 java -jar jar包name报如下错误:
Exception in thread "main" com.typesafe.config.ConfigException$Missing: No configuration setting found for key 'akka.remote.log-sent-messages'
或者报
Exception in thread "main" java.lang.SecurityException: Invalid signature file digest for Manifest main attributes
那是打包时的配置问题,请用shade插件打包,修改pom.xml打包再运行
<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-shade-plugin</artifactId>
<version>2.2</version>
<executions>
<execution>
<phase>package</phase>
<goals>
<goal>shade</goal>
</goals>
<configuration>
<filters>
<filter>
<artifact>*:*</artifact>
<excludes>
<exclude>META-INF/*.SF</exclude>
<exclude>META-INF/*.DSA</exclude>
<exclude>META-INF/*.RSA</exclude>
</excludes>
</filter>
</filters>
<transformers>
<transformer
implementation="org.apache.maven.plugins.shade.resource.ManifestResourceTransformer">
<mainClass>com.a.b.Test</mainClass>
</transformer>
<transformer
implementation="org.apache.maven.plugins.shade.resource.AppendingTransformer">
<resource>reference.conf</resource>
</transformer>
</transformers>
</configuration>
</execution>
</executions>
</plugin>
以上是关于spark程序运行时问题的主要内容,如果未能解决你的问题,请参考以下文章
在 EMR 集群中运行 Spark 应用程序时在哪里指定 Spark 配置
在运行 spark 应用程序时包含 aws jdbc 驱动程序
Spark 运行时错误 - ClassDefNotFound: SparkConf
Spark-sql CLI 在运行查询时仅使用 1 个执行程序
当我对 python 脚本使用 spark-submit 时,Spark master 不会在 UI 中显示正在运行的应用程序