centos7安装spark集群

Posted mufeng07

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了centos7安装spark集群相关的知识,希望对你有一定的参考价值。

安装前准备:

1.3台主机

2.安装jdk

3.免密登陆

开始安装spark

1.解压安装包

tar -zxvf spark-2.4.5-bin-hadoop2.7.tgz

2.修改配置文件

cd conf
cp spark-env.sh.template spark-env.sh
cp slaves.template slaves

修改spark-env.sh 追加

export JAVA_HOME=/root/jdk1.8.0_151

修改slaves

spark1
spark2
spark3

 

以上是关于centos7安装spark集群的主要内容,如果未能解决你的问题,请参考以下文章

Spark集群框架搭建VM15+CentOS7+Hadoop+Scala+Spark+Zookeeper+HBase+Hive

hadoop-spark-zk集群安装

Spark集群搭建记录 | 云计算[CentOS7] | Scala Maven项目访问Spark实现单词计数

Centos7 搭建单机Spark分布式集群

CentOS7+Hadoop2.7.2(HA高可用+Federation联邦)+Hive1.2.1+Spark2.1.0 完全分布式集群安装

03. 搭建Spark集群(CentOS7+Spark2.1.1+Hadoop2.8.0)