大数据—Hadoop(入门篇一)

Posted 之墨_

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据—Hadoop(入门篇一)相关的知识,希望对你有一定的参考价值。

Hadoop 是什么

  1. Hadoop是一个由Apache基金会所开发的分布式系统基础架构
  2. 主要解决,海量数据的存储和海量数据的分析计算问题
  3. 广义上来说,Hadoop通常是指一个更广泛的概念——Hadoop生态圈


  1. 高可靠性:Hadoop底层维护多个数据副本,所以即使Hadoop某个计算元素或存储出现故障,也不会导致数据的丢失
  2. 高扩展性:在集群间分配任务数据,可方便的扩展数以千计的节点
  3. 高效性:在MapReduce的思想下,Hadoop是并行工作的,以加快任务处理速度
  4. 高容错性:能够自动将失败的任务重新分配

Hadoop 组成

在 Hadoop1.x 时 代 ,Hadoop中 的MapReduce同时处理业务逻辑运算和资源的调度,耦合性较大。在Hadoop2.x时代,增加 了Yarn。Yarn只负责资源 的调 度 ,MapReduce 只负责运算。Hadoop3.x在组成上没有变化

HDFS 架构概述

Hadoop Distributed File System简称 HDFS,是一个分布式文件系统。
HDFS架构概述

  1. NameNode(nn):存储文件的元数据,如文件名,文件目录结构,文件属性(生成时间、副本数、文件权限),以及每个文件的块列表和块所在的DataNode等
  2. DataNode(dn):在本地文件系统存储文件块数据,以及块数据的校验和。
  3. Secondary NameNode(2nn):每隔一段时间对NameNode元数据备份。

YARN 架构概述

Yet Another Resource Negotiator 简称 YARN ,另一种资源协调者,是 Hadoop 的资源管理器

  1. ResourceManager(RM):整个集群资源(内存、CPU等)的老大
  2. ApplicationMaster(AM):单个任务运行的老大
  3. NodeManager(N M):单个节点服务器资源老大
  4. Container:容器,相当一台独立的服务器,里面封装了
    任务运行所需要的资源,如内存、CPU、磁盘、网络等。

说明1:客户端可以有多个
说明2:集群上可以运行多个ApplicationMaster
说明3:每个NodeManager上可以有多个Container

MapReduce 架构概述

MapReduce 将计算过程分为两个阶段:Map 和 Reduce

  1. Map 阶段并行处理输入数据
  2. Reduce 阶段对 Map 结果进行汇总

以上是关于大数据—Hadoop(入门篇一)的主要内容,如果未能解决你的问题,请参考以下文章

大数据hadoop入门之hadoop家族详解

大数据入门-三分钟读懂Hadoop

大数据:Hadoop入门

大数据:Hadoop入门

Hadoop基础与电商行为日志分析 新手入门大数据

Hadoop基础与电商行为日志分析 新手入门大数据