大数据-玩转数据-Hadoop 集群搭建和简单应用

Posted 2022-01-08 科技元宇宙

大数据-玩转数据-Hadoop 集群搭建和简单应用

目录
• 概念了解
• 集群服务器规划
• 软件安装步骤概述
• Hadoop安装
o 1、规划
o 2、上传解压缩
o 3、修改配置文件
o 4、把安装包分别分发给其他的节点
o 5、配置Hadoop环境变量
o 6、查看hadoop版本
o 7、Hadoop初始化
o 8、启动
o 9、查看4台服务器的进程
o 10、启动HDFS和YARN的web管理界面
• Hadoop的简单使用
o 创建文件夹
o 查看创建的文件夹
o 上传文件
o 下载文件
o 运行一个mapreduce的例子程序： wordcount

Hadoop集群中各个角色的名称：
服务 主节点 从节点
HDFS NameNode DataNode
YARN ResourceManager NodeManager

集群服务器规划
使用4台CentOS-6.7虚拟机进行集群搭建

关闭防火墙

软件安装步骤概述
1、获取安装包
2、解压缩和安装
3、修改配置文件
4、初始化，配置环境变量，启动，验证

Hadoop安装
1、规划
规划安装用户：hadoop
登录root 用户，创建hadoop用户（useradd hadoop）
修改hadoop密码（passwd hadoop）