mac os x 编译spark-2.1.0 for hadoop-2.8.0
Posted GrantYu
tags:
篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了mac os x 编译spark-2.1.0 for hadoop-2.8.0相关的知识，希望对你有一定的参考价值。
mac os x maven编译spark-2.1.0 for hadoop-2.8.0
1.官方文档中要求安装Maven 3.3.9+ 和Java 8 ;
2.执行
export MAVEN_OPTS="-Xmx2g -XX:ReservedCodeCacheSize=512m"
3.cd spark2.1.0源码根目录下
./build/mvn -Pyarn -Phadoop-2.8 -Dhadoop.version=2.8.0 -Dscala-2.11 -Phive -Phive-thriftserver -DskipTests clean package
4切换到编译完的dev目录下执行下面命令打包
./dev/make-distribution.sh --name custom-spark --tgz -Psparkr -Phadoop-2.8 -Phive -Phive-thriftserver -Pyarn
参考：
http://spark.apache.org/docs/latest/building-spark.html
以上是关于mac os x 编译spark-2.1.0 for hadoop-2.8.0的主要内容，如果未能解决你的问题，请参考以下文章