使用Intellij加载Spark源代码

Posted 南国故人

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了使用Intellij加载Spark源代码相关的知识,希望对你有一定的参考价值。

如何使用Intellij加载Spark源代码

转载注明原文http://www.cnblogs.com/shenh062326/p/6189643.html

查看Spark源代码或修改Spark源代码,都需要一个合适的IDE编辑器,而Spark源码编辑器首推Intellij,

但如果使用Intellij加载Spark源码方式不对,则会出现大量红点点,如下图所示,而且很多代码无法完成跳转,今天我就给大家介绍一下如何使用Intellij加载Spark源代码。

使用Intellij加载Spark代码

1. 首先下载Spark代码。

2. 使用mvn编译mvn -Pyarn -Dhadoop.version=2.6.0 -Dyarn.version=2.6.0 -DskipTests -Phive compile

3. 编译成功后打开Intellij,选择File->New->Project from Existing Sources。

 4. 选择项目目录后选择Import project from external model->maven。

5. 选择next后,在Import Project窗口中加上几个需要引入的项目,如下图。

6.之后一直选择next即可,打开项目后需要等待一段时间建立Index。

7.完成后的效果如下图,可以打开所有依赖的jar和class,Intellij就不会再出现大量红点点啦!

 

这样就能开心的码代码了。

 

以上是关于使用Intellij加载Spark源代码的主要内容,如果未能解决你的问题,请参考以下文章

Spark编程环境搭建(基于Intellij IDEA的Ultimate版本)

IntelliJ 中的结构化流未向控制台显示 DataFrame

在 IntelliJ 上运行的异常 Spark sql 代码,即 java.lang.IllegalArgumentException:[重复]

无法使用 sbt 在本地运行 spark 作业,但可以在 IntelliJ 中运行

使用 spark sql 在 intelliJ 上出现不相关的模棱两可的方法调用错误

Spark/Scala - 项目从 IntelliJ 运行良好,但 SBT 引发错误