大数据Hadoop第十一周——四台电脑的集群配置

Posted 蔡军帅

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据Hadoop第十一周——四台电脑的集群配置相关的知识,希望对你有一定的参考价值。

大数据第十一周

1.物理集群的验证

  • 开启本组所有电脑(4台),拷贝虚拟机映像,打开。在开启虚拟机之前,设置虚拟机内存是4G,处理器是4,网络连接是桥接模式。

技术图片技术图片?

也可以在图形界面配

技术图片技术图片?

  • 把桥接网卡绑定到具体的物理网卡,不要使用自动绑定。
  • 设置完成后,启动寻虚拟机。

技术图片技术图片?

 

2.设置网络连接

  • 编辑网络配置文件:/etc/sysconfig/network-scripts/ifcfg-ens33。

技术图片技术图片?

  • IP地址设置如下:(其中50要改成你自己的ip)

IPADDR=172.21.12.79(左1)

IPADDR=172.21.12.80(左2)

IPADDR=172.21.12.81(右2)

IPADDR=172.21.12.82(右1)

PREFIX=24

GATEWAY=172.21.12.254

DNS1=172.16.3.8

  • 修改完成之后,输入systemctl restart network即可

技术图片技术图片?

3.设置hostname和域名解析

修改集群各个机器的名字和域名解析文件计算机名

sudo vi /etc/hostname

80 master

79 slave0

81 slave1

82 slave2

50 slave4

sudo vi /etc/hosts

172.21.12.80 master

172.21.12.79 slave0

172.21.12.81 slave1

172.21.12.82 slave2

172.21.12.50 slave4

技术图片技术图片?

4.关闭防火墙

  • 检查防火墙状态:sudo systemctl status firewalld.service
  • 关闭防火墙:sudo systemctl stop firewalld.service
  • Disable防火墙:sudo systemctl disable firewalld.service
  • 如果不执行Disable防火墙,下次启动时,防火墙还会启动。
  • 重启三个节点,重启后,分别用sudo systemctl status firewalld.service命令检查所有节点的防火墙状态,要求看到inactive(dead)提示。

5.设置ssh免密登录

  • 由于以前做过免密,所以会提示出错,看提示是否有修改错误的指令,如:删除~/.ssh文件后重做,命令:rm –r .ssh(ls –a查看隐藏文件)
  • 先ssh 要登录的虚拟机,然后exit。
  • 进入目录:cd .ssh/
  • 产生密码:ssh-keygen -t rsa(只需要输入一次)
  • 传送公钥:ssh-copy-id 要登陆的虚拟机名
  • 验证:ssh 要登陆的虚拟机名
  • 如果不需要密码就说明成功了。**如果在物理机集群上安装,需要安装时钟同步工具,保证每个节点的时钟相同。在虚拟机上安装不需要。**
  • 我们有三个节点,所以每个虚机需要3个免密登录。
  • 我们有三个节点,要传三个公钥,包括自己。

6.安装时钟同步

  • 将时区设置为上海:sudo timedatectl set-timezone Asia/Shanghai
  • 使用chrony,因为centos7已经内置chrony,所以只要配置就好。
  • 选择一个本地时钟服务器,对于时钟服务器修改cd /etc sudo vi chrony.conf,要允许其他节点进行连接,
  • 对于主节点:添加allow 172.21.12.0/24;
  • 对于其他节点:删除已有的四行配置,添加server master iburst

技术图片技术图片?

  • 时钟配置完成后检查,用命令:检查chronyc sources。除了主节点外,其它节点只会显示master。
  • 服务开启命令:systemctl enable chronyd.service  和 systemctl start chronyd.service

以上是关于大数据Hadoop第十一周——四台电脑的集群配置的主要内容,如果未能解决你的问题,请参考以下文章

第十一周学习进度条

大数据---HDFS集群搭建

第十一周学习进度(补)

2017-2018-1 学号20155209 《信息安全系统设计基础》第十一周学习总结

第十一周作业

2017-2018-1 20155216 《信息安全系统设计基础》第十一周学习总结