spark 学习笔记-spark2.2.0

Posted anjunact

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了spark 学习笔记-spark2.2.0相关的知识,希望对你有一定的参考价值。


   master:192.168.11.2
    s1:192.168.11.3
    s2 :192.168.11.4
    共三个节点
    第一步配置(三台一样) http://hadoop.apache.org/docs/r2.7.4/hadoop-project-dist/hadoop-common/ClusterSetup.html
1> etc/hadoop/core-site.xml
<configuration>
     <property>
         <name>fs.defaultFS</name>
         <value>hdfs://master:9000</value>
     </property>
     <property>
       <name>hadoop.tmp.dir</name>
       <value>/data/hadoop-2.7.4/hadoop-${user.name}</value>
     </property>
</configuration>
2>  etc/hadoop/slave
master
s1
s2
3>  vi /etc/profile.d/env.sh
     加入  export HADOOP_CONF_DIR=/home/spark/bd/hadoop-2.7.4/etc/hadoop
              export  JAVA_HOME=/opt/jdk
    jps 查看是否启动
    解决问题看日志
    http://spark.apache.org/docs/latest/running-on-yarn.html
   
    ./bin/spark-submit --class org.apache.spark.examples.SparkPi --master yarn --deploy-mode  cluster --driver-memory 4g --executor-cores 2  examples/jars/spark-examples*.jar 10

以上是关于spark 学习笔记-spark2.2.0的主要内容,如果未能解决你的问题,请参考以下文章

2022年Spark基础学习笔记目录

Spark学习笔记—01 Spark集群的安装

spark源码学习笔记

Spark学习笔记——读写Hbase

Spark零基础学习笔记——Python版

三万字,Spark学习笔记