基于CentOS安装并配置Hadoop
Posted ZSYL
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基于CentOS安装并配置Hadoop相关的知识,希望对你有一定的参考价值。
基于CentOS安装并配置 Hadoop
1. 下载 Hadoop
在 hadoop102 安装 Hadoop:
Hadoop 下载地址:https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/
2. Xshell 上传至 Linux
1)用 XShell 文件传输工具将 hadoop-3.1.3.tar.gz
导入到 opt 目录下面的 software 文件夹下面
3. 解压 Hadoop
2)进入到 Hadoop 安装包路径:
cd /opt/software/
3)解压安装文件到/opt/module
下面:
tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/
4)查看是否解压成功
ls /opt/module/hadoop-3.1.3
4. 配置环境变量
将 Hadoop 添加到环境变量
(1)获取 Hadoop 安装路径
pwd
/opt/module/hadoop-3.1.3
(2)打开/etc/profile.d/my_env.sh
文件
sudo vim/etc/profile.d/my_env.sh
- 在
my_env.sh
文件末尾添加如下内容:(shift+g)
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-3.1.3
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
- 保存并退出:
:wq
(3)让修改后的文件生效
source /etc/profile
5. 测试 Hadoop
测试是否安装成功
hadoop version
显示如下:即安装成功!
Hadoop 3.1.3
重启(如果 Hadoop 命令不能用再重启虚拟机)
sudo reboot
6. Hadoop 目录结构
1)查看 Hadoop 目录结构
[zs@hadoop102 hadoop-3.1.3]$ ll
总用量 52
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 22 2017 bin
drwxr-xr-x. 3 atguigu atguigu 4096 5 月 22 2017 etc
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 22 2017 include
drwxr-xr-x. 3 atguigu atguigu 4096 5 月 22 2017 lib
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 22 2017 libexec
-rw-r--r--. 1 atguigu atguigu 15429 5 月 22 2017 LICENSE.txt
-rw-r--r--. 1 atguigu atguigu 101 5 月 22 2017 NOTICE.txt
-rw-r--r--. 1 atguigu atguigu 1366 5 月 22 2017 README.txt
drwxr-xr-x. 2 atguigu atguigu 4096 5 月 22 2017 sbin
drwxr-xr-x. 4 atguigu atguigu 4096 5 月 22 2017 share
2)重要目录
(1)bin 目录:存放对 Hadoop 相关服务(hdfs,yarn,mapred)进行操作的脚本
(2)etc 目录:Hadoop 的配置文件目录,存放 Hadoop 的配置文件
(3)lib 目录:存放 Hadoop 的本地库(对数据进行压缩解压缩功能)
(4)sbin 目录:存放启动或停止 Hadoop 相关服务的脚本
(5)share 目录:存放 Hadoop 的依赖 jar 包、文档、和官方案例
加油!
感谢!
努力!
以上是关于基于CentOS安装并配置Hadoop的主要内容,如果未能解决你的问题,请参考以下文章