sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类 Posted 2020-10-21 Python,Docker,Linux
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类相关的知识,希望对你有一定的参考价值。
sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类
详述
使用sbt对写的Spark程序打包,过程中没有问题
spark-submit提交jar包运行提示找不到对应的类
解决
编译环境没有变化,将代码拷贝到其他项目下打包可以运行,无解
偶然发现IDEA打开的sbt文件显示很多错误,查看详情发现存在错误:java-lang-ClassNotFoundException-org-jetbrain,遂谷歌之,找到了这个网页 ,说是IDEA的bug,打开use sbt shell for build and import选项就好了。尝试之,解决。
另外,Scala中类package object xxxx是创建object默认的写法,把package要去掉
参考
以上是关于sbt打包Scala写的Spark程序,打包正常,提交运行时提示找不到对应的类的主要内容,如果未能解决你的问题,请参考以下文章
大三寒假生活2
Spark学习之第一个程序打包提交任务到集群
Spark学习之第一个程序打包提交任务到集群
Ubuntu下为Spark安装配置sbt
使用 SBT 将编译后的 Scala 文件打包到 jar 中
学习进度十三(Scala独立应用编程)