HDFS相关概念

Posted Code_exploration

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了HDFS相关概念相关的知识,希望对你有一定的参考价值。

一:hdfs设计原理

  负载均衡,考虑分布式计算

  -->block机制

二:block默认大小为128m,【hadoop2.0版本以上】,之前都是64m。

  原因:默认传输效率10M/s  寻址时间占传输时间的1%  寻址时间为10ms

  总结:block是物理的,真正存储的位置在本地磁盘{hadoop.tmp.dir}/dfs/data,

     block是针对文件说的,按照块号存储的物理文件,复本是针对块说的。

三:WebUI:50070描述

  Startup Progress页【集群开启的过程】

    -->加载fsimage镜像文件

    -->加载edits编辑文件

    -->Saving checkpoint(检查点)

    -->Safe mode

    -->awaiting reported blocks

 

以上是关于HDFS相关概念的主要内容,如果未能解决你的问题,请参考以下文章

HDFS入门—— HDFS相关基本概念

HDFS简介及相关概念

大数据学习第二章HDFS相关概念

HDFS相关概念

HDFS相关概念

大数据相关概念和hdfs