基于CentOS安装并配置Hadoop

Posted ZSYL

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了基于CentOS安装并配置Hadoop相关的知识,希望对你有一定的参考价值。

1. 下载 Hadoop

在 hadoop102 安装 Hadoop:

Hadoop 下载地址:https://archive.apache.org/dist/hadoop/common/hadoop-3.1.3/

2. Xshell 上传至 Linux

1)用 XShell 文件传输工具将 hadoop-3.1.3.tar.gz 导入到 opt 目录下面的 software 文件夹下面

3. 解压 Hadoop

2)进入到 Hadoop 安装包路径:

cd /opt/software/

3)解压安装文件到/opt/module 下面:

tar -zxvf hadoop-3.1.3.tar.gz -C /opt/module/

4)查看是否解压成功

ls /opt/module/hadoop-3.1.3

4. 配置环境变量

将 Hadoop 添加到环境变量

(1)获取 Hadoop 安装路径

pwd
/opt/module/hadoop-3.1.3

(2)打开/etc/profile.d/my_env.sh 文件

sudo vim/etc/profile.d/my_env.sh
  • my_env.sh 文件末尾添加如下内容:(shift+g)
#HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-3.1.3
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin
  • 保存并退出: :wq

(3)让修改后的文件生效

source /etc/profile

5. 测试 Hadoop

测试是否安装成功

hadoop version

显示如下:即安装成功!

Hadoop 3.1.3

重启(如果 Hadoop 命令不能用再重启虚拟机)

sudo reboot

6. Hadoop 目录结构

1)查看 Hadoop 目录结构

[zs@hadoop102 hadoop-3.1.3]$ ll
总用量 52
drwxr-xr-x. 2 atguigu atguigu 4096 522 2017 bin
drwxr-xr-x. 3 atguigu atguigu 4096 522 2017 etc
drwxr-xr-x. 2 atguigu atguigu 4096 522 2017 include
drwxr-xr-x. 3 atguigu atguigu 4096 522 2017 lib
drwxr-xr-x. 2 atguigu atguigu 4096 522 2017 libexec
-rw-r--r--. 1 atguigu atguigu 15429 522 2017 LICENSE.txt
-rw-r--r--. 1 atguigu atguigu 101 522 2017 NOTICE.txt
-rw-r--r--. 1 atguigu atguigu 1366 522 2017 README.txt
drwxr-xr-x. 2 atguigu atguigu 4096 522 2017 sbin
drwxr-xr-x. 4 atguigu atguigu 4096 522 2017 share

2)重要目录

(1)bin 目录:存放对 Hadoop 相关服务(hdfs,yarn,mapred)进行操作的脚本

(2)etc 目录:Hadoop 的配置文件目录,存放 Hadoop 的配置文件

(3)lib 目录:存放 Hadoop 的本地库(对数据进行压缩解压缩功能)

(4)sbin 目录:存放启动或停止 Hadoop 相关服务的脚本

(5)share 目录:存放 Hadoop 的依赖 jar 包、文档、和官方案例

加油!

感谢!

努力!

以上是关于基于CentOS安装并配置Hadoop的主要内容,如果未能解决你的问题,请参考以下文章

基于CentOS6.5-Hadoop2.7.3安装hive-2.1.1

hadoop在CentOS下的安装配置

Centos6下安装Hadoop2.6 问题总结

如何在centos7上配置hadoop

Centos7安装hadoop

Hadoop学习——环境配置(特别顺利版!!!已经排坑了)