大数据系列之Hadoop分布式集群部署

Posted 2020-09-03 路漫漫，其修远，吾将上下而求索

tags:

篇首语：本文由小常识网(cha138.com)小编为大家整理，主要介绍了大数据系列之Hadoop分布式集群部署相关的知识，希望对你有一定的参考价值。

本节目的：搭建Hadoop分布式集群环境

环境准备
1. LZ用OS X系统 ,安装两台Linux虚拟机，Linux系统用的是CentOS6.5；Master Ip：10.211.55.3 ,Slave Ip:10.211.55.4
3. 各虚拟机环境配置好Jdk1.8（1.7+即可）
资料准备
1. hadoop-2.7.3.tar.gz
虚拟机配置步骤
1. 以下操作都在两台虚拟机 root用户下操作，切换至root用户命令
3. 配置Master hostname 为Master ;
```
vi /etc/sysconfig/network
```
4. 生效hostname
```
hostname master
```
  检测主机名是否修改成功命令如下，在操作之前需要关闭当前终端，重新打开一个终端：即可看到终端命令前是[user@hostname]
5. 按照步骤6+7 配置Slave hostname 为 Slave；
6. 关闭Slave防火墙
```
service iptables stop
```
7. 各虚拟机配置hosts列表，
```
vi /etc/hosts
```
  添加内容(LZ master Ip是10.211.55.3，Salve Ip 是10.211.55.4)
9. 验证
```
ping slave
ping master
```
  如图表示修改成功
11. 免密钥登录配置（此部分操作均在用户mfz下操作，切换至用户:su mfz）
  1. Master节点上操作：
```
ssh-keygen -t rsa      （多次回车（Enter）即可）
```
  3. 复制公钥文件
```
cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
```
  4. 执行 ll查看
  5. 修改authorized_keys文件的权限，命令如下：
```
chmod 600 ~/.ssh/authorized_keys   (执行后文件权限为 -rw------- )
```
    　　　　
  6. 将authorized_keys文件复制到slave节点，命令如下：
```
scp ~/.ssh/authorized_keys mfz@slave:~/       (如果提示输入yes/no的时候，输入yes，回车密码是mfz slave登录密码)
```
  7. slave节点上操作
  8. 在终端生成密钥，命令如下（一路点击回车生成密钥）
```
ssh-keygen -t rsa
```
    将authorized_keys文件移动到.ssh目录
```
mv authorized_keys ~/.ssh/
```
  9. 修改authorized_keys文件的权限，命令如下：
```
cd ~/.ssh
chmod 600 authorized_keys
```
  10. 验证免密钥登录 ,在master节点上执行命令如下
```
ssh slave
```
    如果还提示输入slave登录密码则配置出错。检查步骤。

Hadoop配置

每个节点上的Hadoop配置基本相同，在HadoopMaster节点操作，然后完成复制到另一个节点。下面所有的操作都使用mfz用户，切换mfz用户的命令是：su mfz
资源包上传到 /home/mfz/resources/下
1. 　　
执行命令，最后如果显示目录如下图则表示操作成功

cp /home/mfz/resources/hadoop-2.7.3.tar.gz /home/mfz/
cd /home/mfz
tar -xzvf hadoop-2.7.3.tar.gz
ll hadoop-2.7.3

修改配置环境变量hadoop-env.sh 环境变量

vi /home/mfz/hadoop-2.7.3/etc/hadoop/hadoop-env.sh

配置hdfs-site.xml，添加\\替换如下

<configuration>
        <property>
        <name>dfs.replication</name>
        <value>1</value>
        </property>
</configuration>

配置core-site.xml ，添加\\替换如下

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://master:9000</value>
    </property>
    <property>
       <name>hadoop.tmp.dir</name>
       <value>/home/mfz/hadoopdata</value>
    　　<description>A base for other temporary directories.</description>
    </property>
</configuration>

修改yarn-env.sh 环境变量
```
vi yarn-env.sh
```

配置yarn-site.xml

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.resourcemanager.address</name>
        <value>master:18040</value>
    </property>
    <property>
        <name>yarn.resourcemanager.scheduler.address</name>
        <value>master:18030</value>
    </property>
    <property>
        <name>yarn.resourcemanager.resource-tracker.address</name>
        <value>master:18025</value>
    </property>
    <property>
        <name>yarn.resourcemanager.admin.address</name>
        <value>master:18141</value>
    </property>
    <property>
        <name>yarn.resourcemanager.webapp.address</name>
        <value>master:18088</value>
    </property>
</configuration>

配置计算框架mapred-site.xml

cp mapred-site.xml.template mapred-site.xml  
vi mapred-site.xm

--添加/替换 如下

<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>

修改slaves文件,插入slave 节点hostname （可配置多个slave）

vi /home/mfz/hadoop-2.7.3/etc/hadoop/slaves
cat /home/mfz/hadoop-2.7.3/etc/hadoop/slaves

复制到从节点(使用下面的命令将已经配置完成的Hadoop复制到从节点HadoopSlave上) （可复制到多个slave）
```
cd
scp -r hadoop-2.7.3 slave:~/


--注意：因为之前已经配置了免密钥登录，这里可以直接远程复制。
```

运行验证-启动Hadoop集群
1. 该节的配置需要同时在两个节点（HadoopMaster和HadoopSlave）上进行操作
2. 操作命令如下：（LZ 环境变量统一放在了/etc/profile 下，也可放于单个用户~/.base_profile 下）
```
cd 
vi /etc/profile

添加如下内容

#HADOOP                                                                                                                              
export HADOOP_HOME=/home/mfz/hadoop-2.7.3                                                                                            
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH     

生效配置
source /etc/profile
```
3. 创建数据目录（该节的配置需要同时在两个节点（HadoopMaster和HadoopSlave）上进行操作。）
  1. ```
  cd 
  mkdir hadoopdata   
     说明：(在用户mfz主目录下操作，此hadoopData目录是hadoop-2.7.3/etc/hadoop/core-site.xml 中hadoop.tmp.dir 的 value)
```
2. 格式化文件系统 ---格式化命令如下，该操作需要在HadoopMaster节点上执行：
```
  hdfs namenode -format
```
3. 如果出现ERROR/Exception 则表示出现问题了。自行百度解决。。。
4. Master节点上启动hadoop 集群
```
  cd /home/mfz/hadoop-2.7.3/
  
  sbin/start-all.sh
```
  在master的终端执行jps命令，在打印结果中会看到4个进程，分别是ResourceManager、Jps、NameNode和SecondaryNameNode，如下图所示。如果出现了这4个进程表示主节点进程启动成功。
  
  在slave的终端执行jps命令，在打印结果中会看到3个进程，分别是NodeManager、DataNode和Jps，如下图所示。如果出现了这3个进程表示从节点进程启动成功。