HDFS存储与架构
Posted dragon-123
tags:
篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS存储与架构相关的知识,希望对你有一定的参考价值。
- 以字节形式存储
- 文件线性切割成块(Block):偏移量 offset (byte)
- Block分散存储在集群节点中
- 单一文件Block大小一致,文件与文件可以不一致
- Block可以设置副本数,副本无序分散在不同节点中
- 副本数不要超过节点数量
- 文件上传可以设置Block大小和副本数(资源不够开辟的进程)
- 已上传的文件Block副本数可以调整,大小不变(2.x 128MB 3 blocks)
- 只支持一次写入多次读取,同一时刻只有一个写入者
- 可以append追加数据
HDFS架构模型
- 文件元数据MetaData,文件数据
- 元数据
- 数据本身
- NameNode(主)节点保存文件元数据:单节点 posix
- DataNode(从)节点保存文件Block数据:多节点
- DataNode与NameNode保持心跳,提交Block列表
- HdfsClient与NameNode交互元数据信息
- HdfsClient与DataNode交互文件Block数据(cs)
- DataNode 利用服务器本地文件系统存储数据块
HDFS架构图
HDFS设计思想
- 分散均匀存储 dfs.blocksize = 128M
- 备份冗余存储 dfs.replication = 3
NameNode(NN)
- 基于内存存储 :不会和磁盘发生交换(双向)
- 只存在内存中
- 持久化(单向)
- NameNode主要功能:
- 接受客户端的读写服务
- 收集DataNode汇报的Block列表信息
- NameNode保存metadata信息包括
- 文件owership和permissions
- 文件大小,时间
- (Block列表:Block偏移量),位置信息(持久化不存)
- Block每副本位置(由DataNode上报)
NameNode持久化
- NameNode的metadata信息在启动后会加载到内存
- metadata存储到磁盘文件名为”fsimage”(时点备份)
- Block的位置信息不会保存到fsimage
- edits记录对metadata的操作日志…>Redis
- 二者的产生时间和过程?(format)
SecondaryNameNode(SNN)
- 它不是NN的备份(但可以做备份),它的主要工作是帮助NN合并edits log,减少NN启动时间。
- SNN执行合并时机
- 根据配置文件设置的时间间隔fs.checkpoint.period 默认3600秒
- 根据配置文件设置edits log大小 fs.checkpoint.size 规定edits文件的最大值默认是64MB
SNN合并流程图
DataNode(DN)
- 本地磁盘目录存储数据(Block),文件形式
- 同时存储Block的元数据信息文件
- 启动DN时会向NN汇报block信息
- 通过向NN发送心跳保持与其联系(3秒一次),如果NN 10分钟没有收到DN的心跳,则认为其已经lost,并copy其上的block到其它DN
HDFS优点
- 高容错性
- 数据自动保存多个副本
- 副本丢失后,自动恢复
- 适合批处理
- 移动计算而非数据
- 数据位置暴露给计算框架(Block偏移量)
- 适合大数据处理
- GB 、TB 、甚至PB 级数据
- 百万规模以上的文件数量
- 10K+ 节点
- 可构建在廉价机器上
- 通过多副本提高可靠性
- 提供了容错和恢复 机制
HDFS缺点
- 低延迟数据访问
- 比如毫秒级
- 低延迟与高吞吐率
- 小文件存取
- 占用NameNode 大量内存
- 寻道时间超过读取时间
- 并发写入、文件随机修改
- 一个文件只能有一个写者
- 仅支持append
Block的副本放置策略
- 第一个副本:放置在上传文件的DN;如果是集群外提交,则随机挑选一台磁盘不太满,CPU不太忙的节点。
- 第二个副本:放置在于第一个副本不同的 机架的节点上。
- 第三个副本:与第二个副本相同机架的节点。
- 更多副本:随机节点
以上是关于HDFS存储与架构的主要内容,如果未能解决你的问题,请参考以下文章