Hadoop 运行环境搭建（开发重点）

Posted 2021-09-20 ZSYL

Hadoop 运行环境搭建

• 1. 模板虚拟机环境准备
• 2. 克隆虚拟机

1. 模板虚拟机环境准备

0）安装模板虚拟机，IP 地址 192.168.10.100、主机名称 hadoop100、内存 4G、硬盘 50G

IP 地址：在VMware编辑中设置

1）hadoop100 虚拟机配置要求如下（本文 Linux 系统全部以 CentOS-7.5-x86-1804 为例）

（1）使用 yum 安装需要虚拟机可以正常上网，yum 安装前可以先测试下虚拟机联网情况

（2）安装 epel-release

注：Extra Packages for Enterprise Linux 是为“红帽系”的操作系统提供额外的软件包，适用于 RHEL、CentOS 和 Scientific Linux。相当于是一个软件仓库，大多数 rpm 包在官方repository 中是找不到的）

yum install -y epel-release

（3）注意：如果 Linux 安装的是最小系统版，还需要安装如下工具；如果安装的是 Linux桌面标准版，不需要执行如下操作

• net-tool：工具包集合，包含 ifconfig 等命令

 yum install -y net-tools

• vim：编辑器

 yum install -y vim

2）关闭防火墙，关闭防火墙开机自启

systemctl stop firewalld
systemctl disable firewalld.service

注意：在企业开发时，通常单个服务器的防火墙时关闭的。公司整体对外会设置非常安全的防火墙。

3）创建 user 用户，并修改 user 用户的密码

useradd zs
passwd zs

自定义，如果在系统开启时，已经创建用户，就不用再创建了

4）配置 zs 用户具有 root 权限，方便后期加 sudo 执行 root 权限的命令:

vim /etc/sudoers

修改/etc/sudoers 文件，在%wheel 这行下面添加一行，如下所示：

## Allow root to run any commands anywhere
root   ALL=(ALL) ALL
## Allows people in group wheel to run all commands
%wheel  ALL=(ALL) ALL

zs   ALL=(ALL) NOPASSWD:ALL

注意：zs 这一行不要直接放到 root 行下面，因为所有用户都属于 wheel 组，你先配置了 zs 具有免密功能，但是程序执行到%wheel 行时，该功能又被覆盖回需要密码。所以 zs 要放到%wheel 这行下面。

5）在/opt 目录下创建文件夹，并修改所属主和所属组

（1）在/opt 目录下创建 module、software 文件夹

su root  # 切换root用户

mkdir /opt/module
mkdir /opt/software

（2）修改 module、software 文件夹的所有者和所属组均为 zs 用户

chown zs:zs /opt/module 
chown zs:zs /opt/software

（3）查看 module、software 文件夹的所有者和所属组

[root@hadoop100 ~] cd /opt/
[root@hadoop100 opt] ll
总用量 12
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 28 17:18 module
drwxr-xr-x. 2 root root 4096 9 月 7 2017 rh
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 28 17:18 software

6）卸载虚拟机自带的 JDK

注意：如果你的虚拟机是最小化安装不需要执行这一步。

rpm -qa | grep -i java | xargs -n1 rpm -e --nodeps

• rpm -qa：查询所安装的所有 rpm 软件包
• grep -i：忽略大小写
• xargs -n1：表示每次只传递一个参数
• rpm -e –nodeps：强制卸载软件

一定都在root用户下，执行命令！

7）重启虚拟机

[root@hadoop100 ~] reboot

2. 克隆虚拟机

1）利用模板机 hadoop100，克隆三台虚拟机：hadoop102 hadoop103 hadoop104

注意：克隆时，要先关闭 hadoop100

2）修改克隆机 IP，以下以 hadoop102 举例说明（在root用户操作）

（1）修改克隆虚拟机的静态 IP

vim /etc/sysconfig/network-scripts/ifcfgens33

改成：

DEVICE=ens33
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=static
NAME="ens33"
IPADDR=192.168.10.102
PREFIX=24
GATEWAY=192.168.10.2
DNS1=192.168.10.2

（2）查看 Linux 虚拟机的虚拟网络编辑器，编辑->虚拟网络编辑器->VMnet8

（4）保证 Linux 系统 ifcfg-ens33 文件中 IP 地址、虚拟网络编辑器地址和 Windows 系统 VM8 网络 IP 地址相同。

3）修改克隆机主机名，以下以 hadoop102 举例说明

（1）修改主机名称

vim /etc/hostname
hadoop102

（2）配置 Linux 克隆机主机名称映射 hosts 文件，打开/etc/hosts

vim /etc/hosts

添加如下内容

192.168.10.100 hadoop100
192.168.10.101 hadoop101
192.168.10.102 hadoop102
192.168.10.103 hadoop103
192.168.10.104 hadoop104
192.168.10.105 hadoop105
192.168.10.106 hadoop106
192.168.10.107 hadoop107
192.168.10.108 hadoop108

4）重启克隆机 hadoop102

reboot

5）修改 windows 的主机映射文件（hosts 文件）

（1）如果操作系统是 window7，可以直接修改

• （a）进入 C:\\Windows\\System32\\drivers\\etc 路径
• （b）打开 hosts 文件并添加如下内容，然后保存

192.168.10.100 hadoop100
192.168.10.101 hadoop101
192.168.10.102 hadoop102
192.168.10.103 hadoop103
192.168.10.104 hadoop104
192.168.10.105 hadoop105
192.168.10.106 hadoop106
192.168.10.107 hadoop107
192.168.10.108 hadoop108

（2）如果操作系统是 window10，先拷贝出来，修改保存以后，再覆盖即可

• （a）进入 C:\\Windows\\System32\\drivers\\etc 路径
• （b）拷贝 hosts 文件到桌面
• （c）打开桌面 hosts 文件并添加如下内容

192.168.10.100 hadoop100
192.168.10.101 hadoop101
192.168.10.102 hadoop102
192.168.10.103 hadoop103
192.168.10.104 hadoop104
192.168.10.105 hadoop105
192.168.10.106 hadoop106
192.168.10.107 hadoop107
192.168.10.108 hadoop108

• （d）将桌面 hosts 文件覆盖C:\\Windows\\System32\\drivers\\etc 路径 hosts 文件

将Windows的主机名与IP的地址映射与虚拟机的IP对应，避免动态分配IP，导致乱。

依次对hadoop103/104同样设定！

加油!

感谢!

努力!