大数据实操3 - hadoop集群添加新节点

Posted 2021-10-26 jing-wang

hadoop集群支持动态扩展，不需要停止原有集群节点就可以实现新节点的加入。

我是使用docker搭建的进群环境，制作了镜像文件，这里以我的工作基础为例子介绍集群中添加集群的方法

一、制作一个新节点

1、为新节点搭建hadoop环境

如果是一般情况下，将一个新物理机添加到集群中，参照集群中其他节点，在新机器上安装与集群中其他节点相同版本的jdk、hadoop等必要程序，安装路径最好一致，这样比较容易管理。这里我使用docker搭建的环境，所以只需要启动一个容器即可。

2、修改新节点主机名映射

vi /etc/hosts

在其中添加集群中各个节点的节点名与ip的映射关系

3、关闭新节点防火墙

service iptables stop

4、配置免密登陆，使得master可以免密登陆到新节点

二、修改集群中全部节点配置文件

1、为集群中全部节点配置slaves

修改 ${HADOOP_HOME}/etc/slaves 文件，进入hadoop安装目录，在文件中添加新节点主机名

vi etc/hadoop/slaves

添加内容：
hadoop3

2、复制集群中slave节点的配置文件到新节点的配置文件中，使用scp即可

scp -r /hadoop安装目录/etc hadoop3:/hadoop安装目录（如/usr/local/hadoop/）

三、单独启动新节点

在新节点上执行命令：