大数据各平台组件搭建使用精进HA高可用相关原理

Posted 星欲冷hx

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据各平台组件搭建使用精进HA高可用相关原理相关的知识,希望对你有一定的参考价值。

目录

开启环境准备测试

启动zookeeper

启动JournalNode,用于监控管理日志

在ha-01上格式化namenode,并分发到ha-02

在ha-01上格式化ZKFC

启动dfs和yarn,然后查看web ui (这些在之前的文章都有介绍,需要请自行移步主页)

进行宕机测试,模拟宕机检测高可用

在ha-02上杀掉resourcemanager进程,模拟服务器yarn宕机

在ha-02上杀掉进程,模拟服务器dfs宕机


(7)主要给大家讲解HA高可用

为了不破坏原来的环境,我又新建了三个虚拟机,和原来的配置一样,就是主机名改成了HA

开启环境准备测试

启动zookeeper

启动JournalNode,用于监控管理日志

在ha-01上格式化namenode,并分发到ha-02

格式化

 hadoop namenode -format

 分发到ha-02

在ha-01上格式化ZKFC

启动dfs和yarn,然后查看web ui (这些在之前的文章都有介绍,需要请自行移步主页)

进行宕机测试,模拟宕机检测高可用

在ha-02上杀掉resourcemanager进程,模拟服务器yarn宕机

直接用kill -9 杀死进程号

查看yarn运行状态

02进程掉了,去查看01

01代替了02

说明,高可用在起作用

在ha-02上杀掉进程,模拟服务器dfs宕机

先查看dfs状态

非主节点创建测试

不是主节点不干活

 杀死ha-02的namenode进程,模拟服务器挂机

查看集群工作状态

 可以看到,ha-01自动成为激活状态,集群工作正常

        HA高可用就是在一台服务器宕机之后,其他的服务器能顶上,来保证任务临时正常运行,对环境的稳定性有很大的帮助。

下节(8)我们会学习flume日志采集,大家如果任何需要可以私信我,文档,源码,安装包,或者那里有不懂大家一起学习。

如遇侵权,请联系删除。

以上是关于大数据各平台组件搭建使用精进HA高可用相关原理的主要内容,如果未能解决你的问题,请参考以下文章

大数据 hadoop2.6.0 高可用集群搭建(HA集群搭建)--亲测可用,入门必备

大数据 - 高可用 HDFS HA

基于Nginx搭建Web服务器HA架构(实现高可用web服务)

基于Nginx搭建Web服务器HA架构(实现高可用web服务)

基于Nginx搭建Web服务器HA架构(实现高可用web服务)

Linux 高可用(HA)集群之Heartbeat安装