HDFS—集群扩容及缩容

Posted 2021-10-17 刘元涛

白名单：表示在白名单的主机IP地址可以，用来存储数据。

配置白名单步骤如下：

1）在NameNode节点的/opt/module/hadoop-3.1.4/etc/hadoop目录下分别创建whitelist 和blacklist文件

（1）创建白名单

[lytfly@hadoop102 hadoop]$ vim whitelist

在whitelist中添加如下主机名称，假如集群正常工作的节点为102 103

hadoop102
hadoop103

（2）创建黑名单

[lytfly@hadoop102 hadoop]$ touch blacklist

保持空的就可以

2）在hdfs-site.xml配置文件中增加dfs.hosts配置参数

 

<!-- 白名单 -->
<property>
     <name>dfs.hosts</name>
     <value>/opt/module/hadoop-3.1.4/etc/hadoop/whitelist</value>
</property>

<!-- 黑名单 -->
<property>
     <name>dfs.hosts.exclude</name>
     <value>/opt/module/hadoop-3.1.4/etc/hadoop/blacklist</value>
</property>

3）分发配置文件whitelist，hdfs-site.xml

[lytfly@hadoop102 hadoop]$ xsync hdfs-site.xml whitelist

4）第一次添加白名单必须重启集群，不是第一次，只需要刷新NameNode节点即可

[lytfly@hadoop102 hadoop-3.1.4]$ myhadoop.sh stop

[lytfly@hadoop102 hadoop-3.1.4]$ myhadoop.sh start

5）在web浏览器上查看DN，http://hadoop102:9870/dfshealth.html#tab-datanode

至此白名单添加成功。下面进行白名单的实现：

6）在hadoop104上执行上传数据数据失败

[lytfly@hadoop104 hadoop-3.1.4]$ hadoop fs -put NOTICE.txt /

7）二次修改白名单，增加hadoop104

[lytfly@hadoop102 hadoop]$ vim whitelist

修改为如下内容:

hadoop102
hadoop103
hadoop104

8）刷新NameNode

[lytfly@hadoop102 hadoop-3.1.4]$ hdfs dfsadmin -refreshNodes

9）在web浏览器上查看DN，http://hadoop102:9870/dfshealth.html#tab-datanode