关于spark与scala版本问题记录

Posted little-horse

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了关于spark与scala版本问题记录相关的知识,希望对你有一定的参考价值。

记录一下版本问题:

spark与scala版本对应问题:

1.官网会给出,如下,spark2.3.1默认需要scala2.11版本

技术分享图片

2.在maven依赖网中也可以看到,如下

技术分享图片

 

3.关于idea开发版本中也可以看到所需要依赖的scala版本

通常在file->project structure->global libraries 右侧,点击加号将scala sdk加入后,最右侧有个下拉框,可以看到此idea支持的一些scala版本号

如果通过加入的scala sdk版本超出idea所需要的scala版本会无法使用

 

4.可以不通过上面的方式加入scala sdk,可以通过pom形式加入所需scala依赖项,也可以开发spark和scala程序

以上是关于关于spark与scala版本问题记录的主要内容,如果未能解决你的问题,请参考以下文章

Spark记录-Scala异常处理与文件I/O

Spark记录-Scala集合

Spark记录-Scala数据类型

Spark记录-Scala模式匹配

Scala 中的 Apache Spark 日志记录

仅从 Spark Scala DataFrame 写入标头 CSV 记录