hadoop组件:HDFS

Posted Java大数据资源社区

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了hadoop组件:HDFS相关的知识,希望对你有一定的参考价值。

上一次简单的记录了一下hadoop笔记,其中比较重要的三个组件---HDFSMapReduceyarn,今天我们在来简单的了解下他们的主要作用以及特性,当然想要深入了解HDFS我们还需要对其中所涉及到到的一些知识(namenode,datanode,....)有更进一步的认识与理解。

 

hadoop组件:HDFS

1 .HDFS设计思想是分而治之:将大文件、大批量文件,分布式存放在大量服务器上,以便于采取分而治之的方式对海量数据进行运算分析

2. 在大数据系统中作用:

为各类分布式运算框架(如:mapreducesparktez……)提供数据存储服务

重点概念:文件切块,副本存放,元数据

首先,它是一个文件系统,用于存储文件,通过统一的命名空间——目录树来定位文件

其次,它是分布式的,由很多服务器联合起来实现其功能,集群中的服务器有各自的角色;

重要特性如下:

HDFS中的文件在物理上是分块存储(block,块的大小可以通过配置参数( dfs.blocksize)来规定,默认大小在hadoop2.x版本中是128M,老版本中是64M。

(1)HDFS文件系统会给客户端提供一个统一的抽象目录树,客户端通过路径来访问文件,形如:hdfs://namenode:port/dir-a/dir-b/dir-c/file.data

(2)目录结构及文件分块位置信息(元数据)的管理由namenode节点承担

——namenodeHDFS集群主节点,负责维护整个hdfs文件系统的目录树,以及每一个路径(文件)所对应的block块信息(blockid,及所在的datanode服务器)

(3)文件的各个block的存储管理由datanode节点承担

---- datanodeHDFS集群从节点,每一个block都可以在多个datanode上存储多个副本(副本数量也可以通过参数设置dfs.replication,默认是3

(4)HDFS是设计成适应一次写入,多次读出的场景,且不支持文件的修改

注:适合用来做数据分析,并不适合用来做网盘应用,因为,不便修改,延迟大,网络开销大,成本太高)

1. HDFS集群分为两大角色:NameNodeDataNode  (Secondary Namenode)

2. NameNode负责管理整个文件系统的元数据

3. DataNode 负责管理用户的文件数据块

4. 文件会按照固定的大小(blocksize)切成若干块后分布式存储在若干台datanode

5. 每一个文件块可以有多个副本,并存放在不同的datanode

6. Datanode会定期向Namenode汇报自身所保存的文件block信息,而namenode则会负责保持文件的副本数量

7. HDFS的内部工作机制对客户端保持透明,客户端请求访问HDFS都是通过向namenode申请来进行





以上是关于hadoop组件:HDFS的主要内容,如果未能解决你的问题,请参考以下文章

Hive初识

走进大数据丨 Hadoop常见的操作命令

Hadoop生态系统简介及大数据相关技术

Apache HAWQ 创建使用SSD磁盘的表

hadoop及其组件安装

hadoop基础概念之Hadoop核心组件