大数据入门第六天——HDFS详解

Posted jiangbei

tags:

篇首语:本文由小常识网(cha138.com)小编为大家整理,主要介绍了大数据入门第六天——HDFS详解相关的知识,希望对你有一定的参考价值。

一、概述

  1.HDFS中的角色

      NameNode:

      负责管理整个文件系统的元数据

    Secondary NameNode:

 

    DataNode:

      负责管理用户的文件数据块    

     文件会按照固定的大小(blocksize)切成若干块(由上传的客户端进行切块处理,这样不大于128M切块大小的实际是多少就是多少)后分布式存储在若干台datanode

 

      Datanode会定期向Namenode汇报自身所保存的文件block信息,而namenode则会负责保持文件的副本数量

 

  详细角色信息,参考https://www.w3cschool.cn/hadoop/xvmi1hd6.html

以上是关于大数据入门第六天——HDFS详解的主要内容,如果未能解决你的问题,请参考以下文章

大数据入门第十四天——Hbase详解入门与安装配置

大数据学习入门到实战教程,精心整理万字长文入门第一章,老奶奶看了都说学会了

大数据入门第十七天——storm上游数据源 之kafka详解入门

大数据入门第十四天——Hbase详解hbase基本原理与MR操作Hbase

大数据入门第七天——MapReduce详解

大数据入门第八天——MapReduce详解