sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类

Posted Python,Docker,Linux

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类相关的知识,希望对你有一定的参考价值。

sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类

详述
  1. 使用sbt对写的Spark程序打包,过程中没有问题
  2. spark-submit提交jar包运行提示找不到对应的类
解决
  1. 编译环境没有变化,将代码拷贝到其他项目下打包可以运行,无解
  2. 偶然发现IDEA打开的sbt文件显示很多错误,查看详情发现存在错误:java-lang-ClassNotFoundException-org-jetbrain,遂谷歌之,找到了这个网页 ,说是IDEA的bug,打开use sbt shell for build and import选项就好了。尝试之,解决。
  3. 另外,Scala中类package object xxxx是创建object默认的写法,把package要去掉
参考

以上是关于sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类的主要内容,如果未能解决你的问题,请参考以下文章

大三寒假生活2

Spark学习之第一个程序打包提交任务到集群

Spark学习之第一个程序打包提交任务到集群

Ubuntu下为Spark安装配置sbt

使用 SBT 将编译后的 Scala 文件打包到 jar 中

学习进度十三(Scala独立应用编程)